隋朝时期，金山镇境域属嘉州平羌县，后属荣州大牢县。
唐朝时期，为荣州应灵县治地。
明末清初，属犍为县清流乡。
民国二十四年（1935年），设金山镇。
民国三十年（1941年），属犍为县第四区。
民国三十一年（1942年），金山镇改乡。
1951年，属犍为县第四区。
1952年10月，为五通桥市第四区驻地，属新胜乡。
1955年，设五通桥市金山镇。
1956年，与新胜、金燕小乡合并为金山乡。
1958年，乡改公社。
1959年，与辉山公社合并为金辉公社。
1961年，析置金山公社。
1962年，分为金山镇和金山公社。
1984年4月，公社改乡。
1987年，金山乡并入金山镇。
1992年，盐林、金燕2乡并入金山镇。
2001年9月，设金山寺居民委员会。
2019年12月13日，撤销辉山镇，将其所属行政区域划归金山镇管辖。