明、清时属大羊里。
中华民国元年（1912年），归关头联保，后改关头乡。
1949年后，属关头区（八区）。
1956年，成立梁山乡、吴店乡，归阳峪区。
1958年4月，由吴店乡分出关头乡。
1958年9月，梁山、吴店2乡合建幸福公社，关头乡改为春风公社（后改关头公社）。
1961年，成立梁山公社、吴店公社。
1984年，改梁山乡、吴店乡、关头乡。
2001年，撤销吴店乡并入梁山乡。
2011年，撤销关头乡、梁山乡合并设立梁山镇。