清末民初，甜水镇境域属胡家镇。
民国三十七年（1948年）2月，成立甜水区政府。
1949年10月，划归胡家区。
1958年3月，甜水乡委员会成立。
1958年10月，甜水、胡家、太平3乡合并为东风公社。
1961年5月，东风公社调整，析出胡家、太平、甜水3公社。
1961年5月，从东风（胡家）公社析出，成立甜水公社。
1969年5月，甜水、胡家2公社合并为国营五七农场。
1973年，再度划出成立甜水农场。
1984年，成立甜水乡。
2010年6月23日，改甜水镇。