春秋戰(zhàn)國(guó)時(shí)代西南沿海一帶就形成村落，秦代屬海鹽縣，后幾經(jīng)興廢。
后梁貞明元年（915）屬華亭縣。
1914年屬松江縣。
1929年屬松江縣十六區(qū)（山陽(yáng)）。
1935年為第六區(qū)。
1946年改屬浦南區(qū)。
1949年12月受漕涇區(qū)管轄。
1957年并山陽(yáng)、金山（嘴）、松衛(wèi)、馬棚鄉(xiāng)及平橋、東南鄉(xiāng)之半建山陽(yáng)鄉(xiāng)。
1958年10月名濱海人民公社，后名山陽(yáng)人民公社，隸松江縣。
1966年10月山陽(yáng)劃歸金山縣（農(nóng)建大隊(duì)、金衛(wèi)大隊(duì)劃歸金衛(wèi)公社）。
1984年政社分設(shè)，建立山陽(yáng)鄉(xiāng)人民政府。
1993年4月改建為山陽(yáng)鎮(zhèn)。
1997年5月金山撤縣建區(qū)，山陽(yáng)屬金山區(qū)。
1997年10月海光、衛(wèi)東、新江、倪界四個(gè)行政村劃歸市級(jí)工業(yè)區(qū)—金山嘴工業(yè)區(qū)。
2005年金山嘴工業(yè)區(qū)北移至朱行鎮(zhèn)，并更名為金山工業(yè)區(qū)，海光、衛(wèi)東、新江、倪界四個(gè)行政村又劃歸山陽(yáng)鎮(zhèn)。
名稱使用至今。