清康熙年间（1662-1722年），属汉州水村。
清宣统元年（1909年），设连山镇。
民国二十九年（1940年），镇改乡。
民国三十一年（1942年），乡改镇。
1950年，镇改乡。
1952年，分为连山镇和连山乡。
1953年2月，6个村划归龙泉乡。
1958年，合并为连山公社。
1962年，析置连山镇。
1979年，连山镇井入连山公社。
1981年，公社改乡，析置连山镇。
1984年，连山乡并入连山镇。
2006年，双泉乡并入。