秦為郯郡的蘭陵縣、鄫縣;西漢時(shí)屬于東海蘭陵縣;東漢時(shí)屬東海郡;三國(guó)時(shí)屬魏;晉時(shí)屬蘭陵郡；隋屬蘭陵縣，后改氶縣；唐屬蘭陵縣，后改為氶縣；元屬嶧州；明屬濟(jì)寧府，后屬兗州府；清屬嶧縣。
中華民國(guó)時(shí)期，仍屬于嶧縣，沿襲清制。
1949年底隸屬于嶧縣，屬臺(tái)棗專屬領(lǐng)導(dǎo)；1953年7月滕縣專屬與湖西專屬合并建立濟(jì)寧專屬后，隸屬于濟(jì)寧專屬第六區(qū)；1958年3月，10個(gè)區(qū)建制合并后建鄉(xiāng)，同年9月合并建立13處人民公社，底閣公社駐地設(shè)在峨山，更名為峨山人民公社，實(shí)際是由蘿藤、底閣、甘溝、左莊鄉(xiāng)合并而成。
1960年1月7日撤銷嶧縣建制，建立縣級(jí)棗莊市后，隸屬棗莊市領(lǐng)導(dǎo)；1960年3月峨山公社轄左莊、香屯、底閣、各塔埠、蘿藤、褚林、夏莊、任莊、甘溝、運(yùn)卜屯11個(gè)管理區(qū)；1961年9月棗莊改為省轄市劃社并區(qū)。
左莊公社、峨山公社、蘿藤公社屬嶧城區(qū)領(lǐng)導(dǎo)；1984年建鄉(xiāng)。
2001年3月撤左莊鄉(xiāng)、蘿藤鄉(xiāng)合并為峨山鄉(xiāng)，同年11月29日撤鄉(xiāng)改鎮(zhèn)為現(xiàn)名至今。