历山历史悠久，文化璀璨。
据史料考证，殷商时期即有村落，原名东、西庄子，后有黄氏在村南种麻地定居，形成村落，称南麻地。
1644年始称南麻，元至清代，南麻镇大部为沂水县西北区，少数为蒙阴县北乡。
民国时大部为沂水县八区，少数为蒙阴县北二区。
1944年5月，沂源县建县后为历山区，1945年5月开始为沂源县政府所在地，是全县政治、经济、文化活动中心。
1955年10月改称南麻区。
1958年3月，撤销南麻区，建立南麻镇。
8月撤南麻镇，建立红旗公社，12月改称南麻公社。
1982年7月，改称南麻镇。
2010年5月成立历山街道办事处。