古为豫州地。
殷商时应龙氏部落封国于此。
西周为武王宗室应侯封地，春秋战国时期分属郑、楚、晋、魏、韩。
秦统一后，今境分属颍川郡、三川郡、南阳郡。
汉改三川郡为河南郡，北部仍属颍川郡。
晋析颍川郡置襄城郡，分属河南郡、襄城郡、南阳郡。
南北朝时先后分属鲁阳郡、襄城郡、南安郡、汝北郡、汝南郡、顺阳郡、汉广郡。
隋代分属襄城郡、颍川郡。
唐代先后分属汝州郡、许州郡、襄城郡。
宋元明清时期分属汝州、许州、裕州。
1912年，属河洛道、汝阳道，后分属豫南道、豫东道、豫西道。
1949年后逐步发展为以煤炭为主的新兴工业城。
1954年成立平顶山煤矿筹备处。
1955年建立矿区。
1956年由宝丰县析出井营乡、西高皇乡、姚孟乡，叶县析出大营乡、东高皇乡并入平顶山矿区。
1957年设平顶山市。
1958年宝丰县留村乡、叶县北渡乡划入，属许昌专区。
1960年宝丰县撤销，划入平顶山市。
1961年析出复置宝丰县，属许昌专区。
1964年3月平顶山市复为平顶山矿区，6月改为平顶山特区。
1968年复为平顶山市。
1971年韩梁矿区与宝丰县薛庄乡划入。
1977年舞钢工区划入。
1979年舞钢区划出，属许昌地区。
1982年复属平顶山市。
1983年原许昌地区的鲁山、宝丰、叶县3县划入平顶山市。
1986年原许昌地区的襄城、郏县2县，洛阳地区的临汝县划入。
1997年襄城县划出，属许昌市。