临淮岗镇，系沣河尾部与淮河交汇处。
1957年与陈嘴、汪集等乡合并为万民闸乡，后又分开。
上世纪五十年代末，临淮岗治淮工程上马后，为了便于工程领导和管理，当时按照安徽省委书记曾希圣同志指示，临淮公社划切到阜阳地区颍上县唐垛湖农场，1958年与姜家湖乡合并为“七一”人民公社，后改为临淮人民公社。
到1962年春治淮工程结束，临淮公社又回到霍邱县。
1968年新店公社、临淮公社合并为新店高级社，1972年临淮公社又从新店高级社分出独立成社，后改为临淮乡。
1992年撤区并乡时与姜家湖乡合并称姜家湖乡，2003年由县、乡两级申请，经省民政厅民地字[2003]49号文件批复更名为临淮岗乡，2021年11月18日省民政厅下批复同意撤乡设镇，2021年12月13日市民政局下通知传达省里的批复。