西漢屬郁秩縣;東漢屬膠東侯國(guó);三國(guó)魏屬膠東縣;北魏皇興四年(470)屬長(zhǎng)廣縣;隋仁壽元年(601)屬膠水縣;明洪武二十二年(1389)屬平度州;清屬長(zhǎng)樂鄉(xiāng);1912年后屬平度縣長(zhǎng)樂鄉(xiāng)(后屬第四區(qū));1940年9月屬平度縣抗日民主政府第四分區(qū);1941年9月屬平北縣天柱區(qū);1950年5月屬平度縣天柱區(qū)(后屬第六區(qū));1958年2月撤區(qū)并鄉(xiāng),屬大澤山、天柱鄉(xiāng);1958年9月屬大澤山人民公社;1984年由社改鄉(xiāng),1985年11月由鄉(xiāng)改鎮(zhèn);1994年12月將青楊鄉(xiāng)北部10個(gè)村劃入大澤山鎮(zhèn);2012年12月12日,撤銷大澤山鎮(zhèn)、長(zhǎng)樂鎮(zhèn),以原大澤山鎮(zhèn)、長(zhǎng)樂鎮(zhèn)行政區(qū)域設(shè)立新的大澤山鎮(zhèn),鎮(zhèn)政府駐原大澤山鎮(zhèn)政府駐地。