中华人民共和国成立前金山分为长乐、山湖两个乡。
中华人民共和国成立初期长乐、山湖两乡合并为萍乡县长乐区。
1958年改名成立金山人民公社，同年秋并入上栗公社，后又与上栗分开，仍称金山公社。
1961年1月归属上栗区。
1962年金山公社划分为金山、白鹤两个公社。
1966年9月撤销白鹤公社，又合并称金山公社。
1984年春改称上栗区金山乡。
1997年撤区设县，改称上栗县金山乡。
1998年4月撤乡设镇，名为上栗县金山镇。