春秋为鲁咸丘、阚邑地。
秦置爰戚县，属砀郡。
西汉属山阳郡。
东汉废爰戚县，置金乡县，其县治在今嘉祥镇南17公里阿城铺，属山阳郡。
三国魏因之。
西晋属高平国。
南朝宋属高平郡。
北魏徙金乡县离境，故地分属任城、巨野等县。
金皇统七年(1147)析任城、巨野两县地置嘉祥县，治山口镇(今嘉祥镇西10公里酒庄)，因境内有鲁哀公西狩获麟处，而麟为古人传说中吉祥之物，故名嘉祥，属济州。
大定十五年(1175)徙今治。
元属济宁路单州。
明属兖州府济宁州。
清雍正二年(1724)属济宁直隶州，八年(1730)属曹州直隶州。
乾隆四十一年(1776)仍属济宁直隶州。
1913年属岱南道(1914年更名济宁道)。
1925年属兖济道。
1928年废道直属于省。
1936年属国民党山东省第一行政督察区。
1944年8月于金乡、嘉祥、济宁3县邻接地区建立金嘉济抗日办事处(县级)，属冀鲁豫行政区第十一专区；同年10月撤销金嘉济抗日办事处，成立嘉祥县抗日民主政府，仍隶属冀鲁豫第十一专区。
同年9月于梁山、郓城、汶上和嘉祥4县结合部设立南旺县，属冀鲁豫第八(运西)专区。
1946年1月嘉祥属冀鲁豫第七专区；同年3月该专区撤销，嘉祥县改属冀鲁豫第二专区；同年11月属重新建立的冀鲁豫第七专区。
1949年8月属平原省湖西专区。
1952年11月平原省撤销，随湖西专区划归山东省。
1953年7月属济宁专区，与此同时，南旺县撤销，其行政区域一部分划归嘉祥县。
1958年12月嘉祥县撤销，分别划归济宁市和郓城、巨野、金乡3县。
1961年10月以原行政区域恢复嘉祥县建制，仍属济宁专区(1967年改称济宁地区)。
1983年8月属济宁市。