明、清時屬大羊里。
中華民國元年（1912年），歸關頭聯(lián)保，后改關頭鄉(xiāng)。
1949年后，屬關頭區(qū)（八區(qū)）。
1956年，成立梁山鄉(xiāng)、吳店鄉(xiāng)，歸陽峪區(qū)。
1958年4月，由吳店鄉(xiāng)分出關頭鄉(xiāng)。
1958年9月，梁山、吳店2鄉(xiāng)合建幸福公社，關頭鄉(xiāng)改為春風公社（后改關頭公社）。
1961年，成立梁山公社、吳店公社。
1984年，改梁山鄉(xiāng)、吳店鄉(xiāng)、關頭鄉(xiāng)。
2001年，撤銷吳店鄉(xiāng)并入梁山鄉(xiāng)。
2011年，撤銷關頭鄉(xiāng)、梁山鄉(xiāng)合并設立梁山鎮(zhèn)。