清康熙年間（1662-1722年），屬漢州水村。
清宣統(tǒng)元年（1909年），設(shè)連山鎮(zhèn)。
民國(guó)二十九年（1940年），鎮(zhèn)改鄉(xiāng)。
民國(guó)三十一年（1942年），鄉(xiāng)改鎮(zhèn)。
1950年，鎮(zhèn)改鄉(xiāng)。
1952年，分為連山鎮(zhèn)和連山鄉(xiāng)。
1953年2月，6個(gè)村劃歸龍泉鄉(xiāng)。
1958年，合并為連山公社。
1962年，析置連山鎮(zhèn)。
1979年，連山鎮(zhèn)井入連山公社。
1981年，公社改鄉(xiāng)，析置連山鎮(zhèn)。
1984年，連山鄉(xiāng)并入連山鎮(zhèn)。
2006年，雙泉鄉(xiāng)并入。