清代中晚期，稱“帳房山”。
清光緒二十九年（1903），中東鐵路在此建火車站，定名“海林”。
始成為地名。
清宣統(tǒng)二年（1910年），隸屬寧安府。
1921年屬寧安縣團(tuán)聚鄉(xiāng)。
1933年設(shè)海林保。
1939年設(shè)海林村，后改稱海林街。
1946年8月設(shè)置新�？h，為新�？h駐地，設(shè)置海林區(qū)。
1948年8月，新海、五林兩縣合并為海林縣后，仍設(shè)海林區(qū)。
1949年10月改為第六區(qū)。
1955年復(fù)稱海林區(qū)。
1956年3月撤銷海林縣，劃歸寧安縣管轄，同年11月設(shè)置海林鎮(zhèn)。
1958年9月，成立海林人民公社。
1962年10月30日，恢復(fù)海林縣，為海林縣駐地。
1964年5月，將海林人民公社劃分為海林鎮(zhèn)人民公社和新合人民公社。
1980年6月，撤銷海林鎮(zhèn)人民公社，改設(shè)海林鎮(zhèn)。
2001年2月，將石河、新合兩鄉(xiāng)并入。
名稱沿用至今。