古为吕国地，历夏、商、西周。
春秋初属宋，继归陈。
战国属楚。
秦置新蔡县（今古吕街道），先属颍川郡，后属陈郡。
西汉属汝南郡。
王莽时易名新迁县。
东汉复名新蔡县，属汝南郡。
三国属魏豫州汝南郡。
魏景初二年（238）豫州增置汝阴郡（今安徽省阜阳市），新蔡县属之。
晋属汝阴郡。
南朝宋属新蔡郡。
东魏置蔡州，北齐废。
隋开皇十六年（596）并置广宁县和舒城县。
仁寿二年（602）改广宁县为汝北县。
大业二年（606）改汝北县为新蔡县，属蔡州汝南郡。
唐武德四年（621）复置舒城县，并置舒州，领新蔡、舒城、包信3县。
贞观元年（627）省平舆入新蔡，隶豫州。
宝应元年（762）属蔡州。
五代因之。
宋属京西北路蔡州汝南郡淮康军。
金初属南京路蔡州。
泰和八年（1208）改属息州。
天兴三年（1234）金亡，地属蒙古。
元至元三年（1266）合并江北州县，省新蔡入息州。
大德八年（1304）复置新蔡县，属河南省行中书省汝宁府息州。
至正中再废入息州。
明洪武四年（1371）复置，属河南布政司汝宁府。
清沿明制。
1912年属汝宁府。
1913年属豫南道。
1914年属汝阳道。
1927年直属河南省。
1932年属河南省第八行政督察区。
1940年属信阳专区。
1965年属驻马店专区。
1969年属驻马店地区。
2000年属驻马店市。