建政时，为南宋乡大埔山村。
1956年合作化时，为南宋乡胜利高级社。
1958年公社化时，定名南宋管理处大埔山大队，属于南宋管理区。
1961年隶属南宋公社。
1984年改称大埔山村民委员会，属于南宋乡。
2002年行政村区划调整由原来的大埔山与长溪源两个自然村撤并组成一个新的行政村，称大埔山。
2011年6月乡镇区划调整南宋镇并入矾山镇。
大埔山属于矾山镇。
2016年，增设南宋镇，归南宋镇管辖，批准文号温政函〔2016〕23号。