1949年5月，为山湾、西源、张塘、彭山乡行政区域，隶属二、三区管辖。
1951年，增设葛洪乡。
1952年，增设贺山乡。
1956年，合并为彭山、葛洪、山湾、贺山乡，同年7月又合并为山湾、吴山二乡，成立葛洪、五台、红桥、山湾等初级农业社。
1957年，转为葛洪、五台、红桥、林居、蔡河、张塘、山湾七个高级农业社。
1958年，樟树乡（为1956年成立）并入，成立山湾人民公社，辖山湾、张塘、吴山、林居、红桥、葛洪、五台、竹蓬、杨柳、樟树、大岭、蔡河、河铺13个大队。
1962年，拆分为山湾、吴山、樟树三个公社。
1968年，三社又合并为山湾公社。
1972年，樟树公社析出。
1981年，山湾公社更名为吴山公社。
1984年机构改革，撤公社更名为吴山乡。
2002年，樟树乡撤销并入吴山乡。
2012年，撤乡设镇，为吴山镇。