建制始于明洪武二年（1369）。
清康熙四十四年（1705）設(shè)立英德縣浛屬懷義都懷厚圖。
清道光十六年（1836）設(shè)立大小樟鄉(xiāng)、歪口鄉(xiāng)。
1932年設(shè)立連江鎮(zhèn)、大小樟鄉(xiāng)、懷厚鄉(xiāng)。
1945年設(shè)立懷厚鄉(xiāng)、連鄉(xiāng)。
新中國成立后，懷厚鄉(xiāng)、連鄉(xiāng)隸屬于英德縣第一區(qū)。
1952年3月設(shè)立英德縣第一區(qū)。
1955年8月設(shè)立連江口區(qū)。
1958年4月設(shè)立連江鄉(xiāng)。
1958年9月設(shè)立躍進人民公社。
1959年4月改設(shè)連江口人民公社。
1997年12月析出成立下公社。
1983年7月撤社設(shè)立連江口區(qū)公所，1986年11月撤區(qū)設(shè)立連江口鎮(zhèn)。
1995年9月劃歸清遠市飛來峽管理區(qū)。
2001年10月劃回英德市。
2003年5月6日，原黃崗鎮(zhèn)高山村并入，沿用至今。