曾名“刘家窝棚”“平安屯”。
清宣统二年(1910）形成聚落。
中华民国成立后，1915年3月，划归新设立的景星设治局管辖。
1929年隶属景星县管辖。
东北沦陷后，初隶第三区，后改设马家村。
1945年抗战胜利后，属景星县第三区。
中华人民共和国建立后，1955年改为泉子沟区。
1956年划归龙江县，设置泉子沟乡。
1958年6月，龙山、西北沟、兴隆泉3乡并入。
同年9月，与金山堡、柳树泉眼乡合并成立山泉人民公社。
1961年，析置出柳树公社。
1984年，山泉公社改山泉乡。
1986年，撤乡设镇，改称山泉镇。
2002年对宝乡并入，2004年柳树乡并入。
名称沿用至今。