夏、商属豫州。
东周为王畿之地。
春秋时，为戎蛮子国。
鲁哀公四年（前491）为楚梁邑。
战国前期属郑，前375年先属韩，后属魏。
秦始皇二十六年（前221）始置梁县，属三川郡。
汉、西晋属司隶部河南郡。
317年属东晋，后属前赵。
329年属冉魏，改梁县为南汝原县。
365年属前燕，隶河南郡。
369年属前秦，隶豫州。
394年属后秦。
417年属东晋。
北魏孝昌二年（526）置汝北郡，隶北荆州。
北齐改南汝原县为汝原县。
东魏武定八年（550）改汝北郡为汝阴郡。
北周建德六年（577）将汝阴郡改为和州，属南襄城郡。
隋开皇四年（584）改和州为伊州。
大业初年置承休县，二年（606）改伊州为汝州（今市区），后又改为襄城郡。
唐贞观元年（627）承休县并入梁县，八年（634）改襄城郡为汝州。
先天二年（712）置临汝县。
五代后梁开平元年（907）汝州隶防御使司。
后周显德三年（956）改临汝县为镇，入梁县。
宋政和四年（1114）升为陆海军节度，隶京西北路。
金代复为汝州，隶河南路。
八年改隶南阳府。
明洪武初（1368）撤梁县入汝州，仍隶南阳府。
成化十二年（1476）汝州由南阳府分出，十二年州东南部析置宝丰县，西南部析置伊阳县（今汝阳），与鲁山、郏县同属汝州。
1912年属河洛道。
1913年改直隶汝州为临汝县。
1944年属豫陕鄂五专区。
1947年属许昌专区。
1954年属洛阳专区。
1986年属平顶山市。
1988年撤销临汝县，设立汝州市（县级）。