夏、商、周为冀州之域。
春秋时代，高平属晋。
战国时期，高平始有地域名，初期称泫氏，后期称长平。
周威烈王二十三年（前403），魏、赵、韩三家分晋，初属韩，后属赵，长平之战之后属秦，秦置高都县（含高平区域），属上党郡。
两汉至两晋，均设泫氏县。
北魏永安二年（529）改置建州，设长平郡，领泫氏、高平二县，高平县名始于此。
北齐天保七年（556）改高平县为平高县。
北齐承光元年（577）又改为高平县，泫氏县并入，治高平城，改隶高都郡。
自此，高平县名历代不变。
北周并长平、高都郡，高平县属高平郡。
隋开皇三年（583）改高平郡为泽州，开皇十六年（596年）析高平置陵川，大业三年（607）又改泽州为长平郡，义宁二年（618）复改长平郡为泽州，高平隶属同时变更。
唐武德元年（618）置盖州（今米山镇），贞观元年（627）废，高平归泽州管辖。
之后，高平隶属屡变。
1912年废府州之称，属山西省冀宁道。
1934年裁道后，属山西省直辖。
1941年，高平抗日民主政府成立后，归太岳区管辖。
1943年11月将东南部划入陵高县，属太行八专区，其余部分仍为高平县，属太岳二专区。
1945年6月，高平解放。
同年10月，撤销陵高县，原划归陵高县的区域仍划归高平县。
1958年，高平并入晋城县，原高平县域成为高平人民公社。
1961年5月恢复高平县建置，前后为晋东南专区、晋东南地区所辖。
1985年5月，撤销晋东南地区，高平归晋城市所辖。
1993年5月12日，经国务院批准，高平撤县设市，为省辖县级市，由晋城市代管。