周为霍国，后称彘，厉王所奔。
春秋属晋，战国属魏。
秦彘，属河东郡。
汉高祖元年（206）置彘县（今霍州城区），属河东郡。
东汉阳嘉三年（134）改永安县（今白龙镇陈村），属河东郡。
三国魏晋胥属平阳郡。
南北朝北魏太平真君七年（446）并入禽昌县。
正始二年（505）复置永安县，治仇池壁（今洪洞县赵城镇东北），后移今赵城镇东南。
孝昌三年（527）侨置西河郡，郡治永安县。
建议元年（528）置永安郡。
十六年（596）置汾州，十八年（598）改吕州，又改永安县为霍邑县。
大业三年（607），属临汾郡。
义宁元年（617）置霍山郡。
唐武德元年（618）废郡，复置吕州，贞观十七年（634）废吕州，以霍邑县属晋州。
北宋政和六年（1116）属平阳府。
贞祐三年（1215）七月霍邑升霍州。
兴定元年（1217）七月升节镇军，名镇定，四年（1220）正月移治好义堡（今洪洞县镜内）。
元大德九年（1305）属晋宁路。
明洪武二年（1369）并霍邑县入霍州。
清乾隆三十七年（1722）升为直隶州，1913年霍州改霍县，属河东道。
1927年属山西省。
1937属山西省第六区。
1940年属太岳路西办事处，1941年5月属三专属第三办事处；9月属晋翼鲁豫（太岳）九专区。
1943改属七专区，1944年改称太岳一专区。
1949年8月属翼城临时专署。
1949年10月属翼城临时专署（驻翼城）。
1950年属临汾专区。
1958年6月霍县、汾西县合并为霍汾县，驻原霍县城。
1959年7月恢复霍汾县建制。
1961年恢复霍县建制，属晋南专区（驻临汾）。
1970年5月属临汾地区。
1990年1月撤县设市，为县级市，称霍州市，属临汾地区。
2000年11月，临汾撤地建市，称临汾市。
霍州市属临汾市管辖至今。