春秋时期属晋。
周敬王六年（前514年）始置平阳县（治今金殿村），赵朝为县大夫。
战国初为韩都，周烈王元年（前375年）韩灭郑，迁都于郑（今河南省新郑县），平阳为韩武隧地，后属魏。
周赧王二十五年（前290年）属秦。
秦为平阳县（治今金殿村）属河东郡。
汉高帝刘邦元年（前206年）九月西魏王豹都平阳，二年（前205年）八月汉灭西魏，县属汉河东郡，六年（前201年）曹参封为平阳侯，置平阳侯国（今刘村），十二年（前195年）郦疥封为高梁侯，后徙为武遂侯。
汉元封五年（前106年）县属河东郡。
莽新改名香平，东汉复称平阳县，属河东郡。
三国魏为平阳郡治。
晋永嘉三年（309）为刘渊前汉国都。
北魏为平阳县、禽昌县，及平阳郡治，后为唐州、晋州治。
东魏、北齐、北周为晋州、平阳郡治。
隋开皇元年（581）改平阳县为平河县，仍为晋州治。
三年（583）罢郡为晋州，改县名为临汾，此为平阳改称临汾之始，此后历代县名未改。
隋为临汾郡治。
唐、五代为晋州治。
宋为平阳府治。
元为平阳路（后改为晋宁路）治。
明清为平阳府治。
1912年属山西河东道，1927年废道属省。
1948年5月临汾解放后，析临汾县城关置临汾市，旋并人临汾县。
1949年10月为晋南中心专属地。
1950年1月为临汾专区驻地。
1954年9月为晋南专区驻地。
1958年浮山县及襄汾县原襄陵部分并入，后相继析出，恢复临汾县制。
1971年8月分为临汾县和临汾市；1983年合并为临汾市；2000年11月，改为临汾市尧都区，名称沿用至今。