C
分析:根據(jù)去括號法則、合并同類項的法則判斷A;
根據(jù)單項式乘多項式的法則判斷B、C;
根據(jù)積的乘方的法則及單項式乘多項式的法則判斷D.
解答:A、3xy-(x2-2xy)=3xy-x2+2xy=5xy-x2,故本選項正確,不符合題意;
B、5x(2x2-y)=10x3-5xy,故本選項正確,不符合題意;
C、5mn(2m+3n-1)=10m2n+15mn2-5mn,故本選項錯誤,符合題意;
D、(ab)2(2ab2-c)=a2b2(2ab2-c)=2a3b4-a2b2c,故本選項正確,不符合題意.
故選C.
點評:本題考查了整式的加減,單項式乘多項式,熟練掌握運算法則是解題的關(guān)鍵,計算時要注意符號的處理.