清同治年间（1862-1874），属天授乡甘泉里二十八都和巴山里三十一都、三十二都。
1911年至1949年先后隶属公溪、航桥、桐江和龚坊等乡，1956年3月成立山砀乡；1958年成立山砀人民公社；1959年山砀公社撤销，所辖大队、生产队分别划入公溪、龚坊公社；1961年10月进行社队规模调整，重新恢复山砀公社，驻地山砀村；1968年8月扩社并队，山砀公社被撤销并入龚坊公社；1980年2月由龚坊公社划出，设立山砀公社，驻流坊村；1984年5月体制改革，撤社改乡；2001年3月撤乡建镇；2001年11月，撤销航桥乡并入山砀镇。
得名后沿用至今。