秦、汉时期，大榄、小榄为濒海要区，隶属南海郡。
隋、唐，属南海县。
宋代，称永宁乡潮居里。
南宋绍兴二十二年（1152年），香山立县时划入香山县，称宁安乡。
明洪武十四年，大榄、小榄分立，统名大榄都。
清光绪六年（1880年），改称榄镇（小榄部分称榄乡），清宣统二年（1910年），属第三区。
民国十二年（1923年），香山县三区的榄乡沿称小榄镇，为区辖下的乡镇，为建镇之始。
1952年11月，升格为区级镇。
1957年，撤区成立大乡，由县直管。
1961年，重建区制，建立小榄区，辖永宁、五埒、鸡笼、古镇、海洲5个公社。
1962年2月，恢复小榄镇人民委员会（同时挂公社管理委员会牌子）。
1963年1月，撤销区建制，恢复小榄公社社务委员会，辖永宁、五埒、鸡笼3个公社。
1983年11月，政社分立，撤社设区，小榄公社改为小榄区公所，属县（市）人民政府派出机构。
小榄镇建制不变。
1986年12月，保留小榄镇，将原小榄区析出的8个乡成立鸡笼镇（1987年3月，改称东升镇），余下的永宁、九洲基、东区、西区、北区、福兴、沙口、竹源、埒东、联东、宝丰、埒西一、埒西二、绩东一、绩东二、绩西16个乡划归小榄镇管辖，成立新小榄镇。
2021年7月19日，经广东省人民政府同意，撤销小榄镇、东升镇，设立新的小榄镇，以原小榄镇、东升镇的行政区域为新的小榄镇的行政区域。