建制始于明洪武二年（1369）。
清康熙四十四年（1705）设立英德县浛属怀义都怀厚图。
清道光十六年（1836）设立大小樟乡、歪口乡。
1932年设立连江镇、大小樟乡、怀厚乡。
1945年设立怀厚乡、连乡。
新中国成立后，怀厚乡、连乡隶属于英德县第一区。
1952年3月设立英德县第一区。
1955年8月设立连江口区。
1958年4月设立连江乡。
1958年9月设立跃进人民公社。
1959年4月改设连江口人民公社。
1997年12月析出成立下公社。
1983年7月撤社设立连江口区公所，1986年11月撤区设立连江口镇。
1995年9月划归清远市飞来峡管理区。
2001年10月划回英德市。
2003年5月6日，原黄岗镇高山村并入，沿用至今。