建制始于明洪武二年（1369）。
清康熙四十四年（1705）設(shè)立英德縣浛屬甘下都三山圖、鶴子山圖。
清道光十六年（1836）設(shè)立三山鄉(xiāng)。
1945年，三山、杉樹兩鄉(xiāng)合并稱三杉鄉(xiāng)。
新中國成立后，設(shè)立三山鄉(xiāng)，隸屬于英德縣第二區(qū)。
1952年3月設(shè)立英德縣第八區(qū)。
1955年8月設(shè)立波羅區(qū)。
1957年11月設(shè)立波羅鄉(xiāng)。
1958年9月屬上游人民公社，1959年4月屬大灣人民公社。
1960年3月從大灣人民公社析出前進、烏田等11個大隊設(shè)立波羅人民公社。
1983年7月撤社設(shè)立波羅區(qū)公所，1986年11月撤區(qū)設(shè)立波羅鄉(xiāng)，1993年10月設(shè)立波羅鎮(zhèn)，沿用至今。