汉武帝元鼎六年（前111年），汉武帝置零陵郡，郡治设在零陵县（秦始皇二十六年即前221年始设零陵县，汉武帝元鼎六年即前111年设为郡治，隋文帝开皇九年即589年撤消此零陵县），治所在今广西全州县咸水镇老拱桥边。
清，属宜乡。
民国二十二年（1933年），属建宜区，民国三十一年（1942年），为咸水乡。
解放初，为咸水区。
1952年，属第六区。
1955年，复称咸水区。
1957年秋，分为咸水、鲁塘二乡。
1958年秋，二乡合并为咸水公社。
1961年，属绍水大区。
1968年，仍称咸水公社。
1984年9月，由咸水人民公社改称咸水乡。
2014年6月，撤乡改镇。