清光绪二十二年，称上冶社。
民国初年，属费县一区上冶乡。
1940年以后，属费北县上冶社。
1945年底，费北、费东西县合并蒙山县，上冶属蒙山县五区。
1952年，撤销蒙山县，上冶划属费县为十一区。
1955年，改称上冶区。
1958年，改称为上冶人民公社。
1962年，从原店子公社划入2个乡，改成上冶区。
1968年，又将上冶区改为上冶人民公社，并将下辖的9个小人民公社改为管理区。
1976年，将北部27个大队、68个自然村划出，设置五圣公社。
1984年5月，设上冶区，下辖5个乡。
1985年9月，撤区设镇，称上冶镇。