建制始于明洪武二年（1369）。
清康熙四十四年（1705）設立英德縣浛屬懷義都懷厚圖。
清道光十六年（1836）設立大小樟鄉(xiāng)、歪口鄉(xiāng)。
1932年設立連江鎮(zhèn)、大小樟鄉(xiāng)、懷厚鄉(xiāng)。
1945年設立懷厚鄉(xiāng)、連鄉(xiāng)。
新中國成立后，懷厚鄉(xiāng)、連鄉(xiāng)隸屬于英德縣第一區(qū)。
1952年3月設立英德縣第一區(qū)。
1955年8月設立連江口區(qū)。
1958年4月設立連江鄉(xiāng)。
1958年9月設立躍進人民公社。
1959年4月改設連江口人民公社。
1997年12月析出成立下公社。
1983年7月撤社設立連江口區(qū)公所，1986年11月撤區(qū)設立連江口鎮(zhèn)。
1995年9月劃歸清遠市飛來峽管理區(qū)。
2001年10月劃回英德市。
2003年5月6日，原黃崗鎮(zhèn)高山村并入，沿用至今。