夏、商两代，境内属于古徐州的属地。
春秋战国时期，境内先属鲁国，后属楚国。
明洪武元年（1368年），境内隶属海州直隶州。
满清时期，属海州沭阳县韩山镇。
民国二年（1913年），设汤沟乡，位于涟水、灌云、沭阳三县交界处，属沭阳县第五区。
民国二十九年（1940年），隶属于东灌沭办事处第二联防区。
民国三十二年（1943年），划入灌云县曙红区。
1949年，解放后划入灌云县曙红区。
1957年，撤区并乡，撤销曙红区，将所辖区域合并为三个乡镇，汤沟区域分属曙红乡与海亭乡。
1958年3月，划归灌南县，并改为曙红人民公社。
1958年9月，全县实行人民公社化运动，汤沟区域分属曙红公社以及海亭公社。
1981年6月，由白皂、孟兴庄两公社西部部分大队析出，成立汤沟人民公社。
1983年3月，镇社分设时更名汤沟乡。
1985年10月，撤乡设镇。