西周为洛国所在地。
春秋为东山皋落氏属地。
秦属沾县。
西汉属上艾县。
东汉属常山国，归今河北省元氏县辖，后归乐平郡辖。
隋开皇十六年（596），境内设东山县，县治在库城村。
金为皋州府驻地，中统元年复属乐平。
明嘉靖二十七年（1548），皋落镇隶属于仙游乡民安都和怀仁乡水谷都。
清初改属仙游乡昔阳都，恢复皋落古镇，成为以工商活动为主的基层行政区域单位。
清乾隆十八年（1753），全县6都210村，皋落镇隶属于昔阳都。
民国初年，全县分1镇3乡时，皋落镇隶属于皋落乡。
1914年4月17日乐平县更名为昔阳县，全县分为一镇三乡，皋落置皋川乡。
1917年，山西实行“村本政治”，皋落镇隶属于皋落五区。
1918年改属三区。
抗日战争时期，昔阳县工委东迁皋落，成立昔东县抗日民主政府、昔东中心县委，全县分6个区，皋落置直属区。
1938年5月，为昔东县政府驻地。
1944年改属三区，驻地库城。
1945年全县分14个区，改属9区。
1946年6月，调整为8个区，改属5区，驻地皋落村。
1949年，属昔阳县第五区。
1953年7月，五区下划9个乡，属五区皋落乡。
1956年4月取消区级建制，属皋落乡。
1958年皋落乡、南岩乡合并成立“曙光人民公社”，成为昔阳县第一个农村人民公社。
1984年8月，撤销皋落人民公社，设立皋落镇。