宋代设温泉团，明、清时属泉上里和泉下里。
清雍正十二年（1734）设泉上分县，置县丞，分辖泉上、泉下、招贤（今水茜）三里。
1912年撤泉上分县为泉上公安分局，1927年撤销公安分局。
1930年苏区时期设泉上区，1933年8月设泉上县，建立泉上县苏维埃政府。
1934年冬为第二区，设三个联保，1936年8月改属三区（水茜），1941年并联保为泉上乡，1942年撤区为县直属乡，1943年更名为元仲乡，辖14个保。
中华人民共和国成立后，1950年3月属第四区（湖村）为元仲乡，1951年6月为四区改设泉上、泉正等6个乡，1952年8月第四区政府迁驻泉上，1954年9月设泉上镇和11个乡，1956年5月改称泉上区，设泉上镇和6个乡，1958年1月改设泉上镇和泉正乡，1958年10月为泉上公社和泉正公社，1959年2月合并称泉上公社，1961年6月属泉上工委分设泉上、泉正公社，1964年6月撤销工委，泉上、泉正两公社合并为泉上公社，1984年8月改制为泉上镇。