兗州相繼為郡、州、府所在地，是一方政治、經濟、文化、軍事中心。
戰(zhàn)國時期稱瑕丘，南北朝改兗州，隋改稱魯郡，唐又復稱兗州，隸屬河南道。
宋稱襲慶府，隸屬京東東路。
金改稱嵫陽縣，為兗州治，隸屬山東西路。
明改滋陽縣，明、清皆為兗州府治，隸屬山東省。
民國時期，廢州府建制，稱滋陽縣，隸屬山東濟寧道。
1948年7月解放時曾將城區(qū)設兗州市，農村稱滋陽縣，11月市縣合并，稱滋陽縣，屬魯中南行署四專署。
1949年7月改稱屬尼山專署。
下設9個區(qū)，83個聯(lián)防，3個鎮(zhèn)。
1953年秋屬濟寧專署。
1956年9月，撤銷原9個區(qū)，將86個鄉(xiāng)鎮(zhèn)合并為24個鄉(xiāng)。
1958年8月成立6個人民公社，45個生產管理區(qū)。
1958年3月，滋陽縣與曲阜縣合并稱曲阜縣，縣機關駐兗州城。
1962年1月與曲阜縣按原行政區(qū)域分治，滋陽縣改為兗州縣，下設10個公社。
1981年底增設2處人民公社。
1984年4月，以原有公社為基礎設13個區(qū)（鎮(zhèn)）、建立37個鄉(xiāng)（鎮(zhèn)），4個街道。
1986年12月撤區(qū)，調整為5個鎮(zhèn)8個鄉(xiāng)。
1992年1月，將堡子鄉(xiāng)設為興隆莊鎮(zhèn)。
1992年8月撤縣設兗州市，隸屬濟寧市。
1994年11月，將城郊鄉(xiāng)設為新兗鎮(zhèn)。
1995年8月，將黃屯鄉(xiāng)設為黃屯鎮(zhèn)。
1999年12月6日，將漕河鄉(xiāng)設為漕河鎮(zhèn)。
2000年12月1日，鄉(xiāng)鎮(zhèn)由原來的10鎮(zhèn)3鄉(xiāng)調整為9鎮(zhèn)1鄉(xiāng)2個街道。
2002年7月，將小孟鄉(xiāng)設為小孟鎮(zhèn)。
2005年8月17日，黃屯鎮(zhèn)6個村劃歸新兗鎮(zhèn)管轄。
2008年8月29日，將10個鎮(zhèn)2街道，調整合并為9鎮(zhèn)3個街道。
2010年7月6日,撤銷王因鎮(zhèn)、黃屯鎮(zhèn)設為王因、黃屯街道，兗州市轄7鎮(zhèn)5個街道，隸屬濟寧市至今。
2013年11月，國務院和省政府批復撤銷兗州市，設立濟寧市兗州區(qū)。
2014年興隆莊鎮(zhèn)撤鎮(zhèn)設立興隆莊街道，至此兗州區(qū)轄6個鎮(zhèn)6個街道。