樺甸是古肅慎部族的故土，其后裔女真等部族相繼生息繁衍于此。
唐玄宗開(kāi)元元年（713年），粟末首領(lǐng)大祚榮受唐冊(cè)封為左驍衛(wèi)大將軍、忽汗州都督、渤�？ね�，后人專稱其為渤海，“渤海國(guó)”名稱由此而來(lái)。
其子孫因襲唐朝典制，傳至十一世大仁秀、十二世大彝尊（835年）在轄境內(nèi)完成五京十五府六十二州一百余縣的建置，成為遼東盛國(guó)。
輝發(fā)河故道南岸的蘇密甸子（粟末的音轉(zhuǎn)）系沖積盆地，平坦開(kāi)闊，近山傍水，“為水陸之要沖”，境東有綿亙四十余里的張廣才嶺為屏障，渤海國(guó)在此設(shè)長(zhǎng)嶺府治，領(lǐng)瑕、河二州，建有具備府治規(guī)模的蘇密古城（即那丹佛勒城），是當(dāng)時(shí)營(yíng)州道上的重鎮(zhèn)。
樺甸即渤海王朝長(zhǎng)嶺府屬地。
清光緒三十三年（1908年1月29日）御批設(shè)縣，定名樺甸，為吉林府所轄。
設(shè)治后，歷經(jīng)清代、中華民國(guó)、東北淪陷及國(guó)民黨占領(lǐng)時(shí)期，直至中華人民共和國(guó)成立以后，行政區(qū)劃變動(dòng)繁復(fù)，1988年5月25日經(jīng)國(guó)務(wù)院批準(zhǔn)撤縣設(shè)市。
改革開(kāi)放以來(lái)，全市經(jīng)濟(jì)與社會(huì)發(fā)展迅速，現(xiàn)已成為吉林省東部山區(qū)的經(jīng)濟(jì)強(qiáng)縣（市）之一。