清代晚期形成聚落，1914年設碾子山火車站。
隸屬龍江縣第二區(qū)管轄。
東北淪陷后，始設碾子山保，后改設碾子山村。
1945年，“九三”抗日戰(zhàn)爭勝利后，始設碾子山區(qū)，后改為第四區(qū)。
1952年10月，設置碾子山鎮(zhèn)。
1958年9月，將碾子山鎮(zhèn)改稱超美人民公社。
同年12月，以華安機械廠為主體“廠社合并”，成立華安人民公社，由嫩江專員公署領導。
1959年，將甘南縣中興公社的三皇廟、簸箕山、馬架屯劃歸華安公社管轄。
1960年5月，劃歸齊齊哈爾市管轄。
1960年12月，將華安公社改為華安區(qū)。
1961年8月，成立華安公社農(nóng)村分社，9月政企分。
1980年6月將躍進街道所轄農(nóng)村劃出，增設曙光人民公社。
1983年12月，將華安區(qū)改為碾子山區(qū)，名稱沿用至今。