據(jù)明萬(wàn)歷年間《滕縣志》、《嶧縣志》記載，以及考古發(fā)現(xiàn)，山亭區(qū)轄境，早在7300年前的新石器時(shí)代，就有人類(lèi)繁衍生息。
山城、西集等鎮(zhèn)（街道）發(fā)現(xiàn)多處屬于大汶口文化、龍山文化的遺址。
夏朝時(shí)期，鳧城鄉(xiāng)、北莊鎮(zhèn)、西集鎮(zhèn)（下稱(chēng)南部）境域?qū)汆媷?guó)，山城街道、徐莊鎮(zhèn)、水泉鎮(zhèn)、城頭鎮(zhèn)、馮卯鎮(zhèn)、桑村鎮(zhèn)、店子鎮(zhèn)7處鎮(zhèn)（街道）（下稱(chēng)北部）境域?qū)匐鴩?guó)。
殷商時(shí)代，南部境域?qū)偈D國(guó)，殷封蔇子翦于蔇，屬大彭國(guó)。
蔇舊域在今西集附近。
北部境域歸滕國(guó)郳國(guó)。
郳國(guó)即小邾國(guó)，是滕國(guó)的附庸國(guó)。
西周時(shí)代，南部境域?qū)汆崌?guó)，北部境域?qū)匐?魯國(guó)附庸國(guó))。
春秋時(shí)期，南部境域?qū)汆崌?guó)，北部境域?qū)匐鴩?guó)和小邾國(guó)。
戰(zhàn)國(guó)時(shí)期，南部境域?qū)偬m陵，北部境域?qū)匐鴩?guó)。
公元前254年，山亭區(qū)境全屬楚、秦。
南部境域?qū)偈D縣，北部境域?qū)匐h。
西漢，南部境域?qū)俪䥽?guó)氶縣，北部境域?qū)亵攪?guó)、沛國(guó)滕縣。
東漢，南部境域?qū)佻樼饑?guó)的氶縣、蔇縣；北部境域?qū)亵攪?guó)，沛國(guó)、蕃縣、合鄉(xiāng)縣。
三國(guó)，南部境域?qū)贃|海郡縣，北部境域?qū)贃|�？まh、合鄉(xiāng)縣。
晉朝，南部境域?qū)偬m陵郡氶縣，北部境域?qū)倥沓强まh。
南北朝，南部境域?qū)偬m陵郡氶縣，北部境域?qū)汆嬁まh。
隋開(kāi)皇三年（583)罷蘭陵郡，隋開(kāi)皇六年（586)改蕃縣為滕縣。
北部境域?qū)匐h。
隋開(kāi)皇十六年（596)改氶縣為鄭州。
設(shè)蘭陵縣(治舊氶域)。
隋仁壽二年（602)廢鄭州，改蘭陵縣為氶縣，南部境域?qū)贇榭h、蘭陵縣。
唐朝，北部境域有的屬徐州彭城郡滕縣，有的屬沂州瑯琊郡氶縣，南部境域?qū)僖手莠樼鹂榭h。
宋朝，北部境域隸屬京東西路徐州彭城郡滕縣(后改滕陽(yáng)縣)，南部境域隸屬京東東路徐州瑯琊郡氶縣。
金代，北部境域?qū)匐?yáng)州（后改滕縣），南部境域隸屬嶧州。
元代，山亭區(qū)全境屬山東西路。
北部境域?qū)匐�，南部境域�(qū)賻F州。
明代，山亭區(qū)全境屬山東省濟(jì)寧府(后屬兗州府)，北部境域?qū)匐h。
南部境域?qū)賻F州(后降為嶧縣)。
清代，山亭區(qū)全境屬山東省兗州府，北部境域?qū)匐h，南部境域?qū)賻F縣。
中華民國(guó)，山亭區(qū)境內(nèi)鄉(xiāng)鎮(zhèn)先后屬滕縣、嶧縣、嶧縣抗日民主政府、滕嶧邊工委(縣委)、費(fèi)滕嶧中心縣(實(shí)驗(yàn)縣)、雙山縣、麓水縣、白彥縣管轄。
1949年至1983年11月，山亭區(qū)境內(nèi)鄉(xiāng)鎮(zhèn)先后屬滕縣、麓水縣、白彥縣、嶧縣、棗莊市（縣級(jí)）、棗莊市齊村區(qū)管轄。
1983年11月15日經(jīng)山東省人民政府批準(zhǔn)，并報(bào)國(guó)務(wù)院備案，由原滕縣東部8處山區(qū)鄉(xiāng)鎮(zhèn)和原齊村區(qū)北部6處山區(qū)鄉(xiāng)鎮(zhèn)合并組成山亭區(qū)，為棗莊市市轄區(qū)。