1949年8月前属鸣盛乡、清明乡。
1950年8月后属湘东区青山、葡萄、温盘、樟树4乡。
1956年樟树乡并入湘东区澜潭乡，其它3乡合并为青山乡，属萍乡镇。
1957年从萍乡镇分设青山乡。
1958年青山乡复属萍乡镇，葡萄、温盘2乡改属湘东公社。
1961年2月成立青山镇，辖青山、朝阳、光辉、葡萄、乌石、大城大队，属城关区。
1962年分设为大城公社和青山镇。
葡萄、乌石、大城和湘东公社的温盘、高枧、甘泉、柳源、樟里、五里亭大队属大城公社；青山、朝阳、光辉大队属青山镇。
1964年青山镇并入萍乡镇。
1965年又从萍乡镇分出；大城公社合并到湘东公社。
1969年将湘东公社所辖的温盘、高枧、下柳源、乌石、大城、葡萄大队和福田公社的上柳源大队划归青山镇。
1971年3月成立城关区，属城关区。
1972年源头大队从上栗区福田公社划入青山镇温盘村，1973年从温盘村划出，名源头大队。
1993年5月改称安源区青山镇。
1997年彭家源村更名光辉村。
2003年9月水口村并入青山村。
2005年11月新生村、丝草塘居委会并入新建居委会，建设居委会并入七一居委会，五一、张家山居委会并入八一居委会，油榨冲居委会并入水口居委会，设立香炉山居委会。