商代曾在此建都称亳。
西周属管国。
春秋属郑。
战国属韩。
秦属三川郡。
汉属河南郡。
隋开皇三年（583）改荥州为郑州，治成皋（今荥阳汜水）。
十六年（596）改郑州为管州，治管城（今管城区）。
大业二年（606）复名郑州。
唐武德四年（621）分置郑州、管州，郑州治成皋，管州治管城。
贞观元年（627）废管州入郑州。
七年移治管城。
宋熙宁五年（1072）废郑州。
元丰八年（1085）复置。
崇宁四年（1105）郑州建为“西辅”，为宋代四辅郡之一。
明属开封府。
清雍正二年（1724）郑州升为直隶州，属河南省。
十二年复属开封府。
光绪二十九年（1903）复为直隶州。
1913年改郑州为郑县，属豫东道。
1914年属开封道。
1928年设郑州市。
1931年撤销，复郑县。
1933年属河南省第一行政督察区。
1948年复置郑州市。
1949年郑州市及郑州专区属河南省。
1954年河南省人民政府由开封市迁入郑州市。
1959年原开封专区的荥阳、巩县、登封、密县、新郑5县划入。
1961年荥阳县、巩县、登封县、密县、新郑县复归开封专区。
1971年荥阳县划入郑州市。
1983年巩县、登封县、密县、新郑县、中牟县划入郑州市，成今境。