周初屬郜國，秦置成武縣。
漢初，成武屬梁國。
中元六年（前144）分梁國為梁、濟(jì)川、濟(jì)東、山陽、濟(jì)陰五國，成武屬山陽國。
建元五年（前136）廢國置郡，成武仍屬山陽郡。
王莽（9～25年）建新朝，改成武為成安，屬山陽郡。
建武二年（26）劉秀封族兄劉順為成武侯，縣為其封地。
八年(32)，劉順遷六安太守，成武又為縣。
永平十五年（72），封劉長為濟(jì)陰王，成武屬濟(jì)陰郡。
建初四年（79），汝南王劉暢改封為王，成武劃屬梁。
永元五年（93）劉暢獲罪，削成武、單父二縣，重入濟(jì)陰郡。
三國，成武屬曹魏兗州濟(jì)陰郡，黃初三年彭城王據(jù)子范封平氏侯，四年（223）徒成武。
西晉（265～316）仍依曹魏舊制，成武縣屬濟(jì)陰郡。
永嘉之亂后，形成東郡與十六國對(duì)立的局面。
成武縣地先后屬后趙（327）高平郡，前燕（366）高平郡，前秦（382）高平郡，后燕（395）高平郡，東晉（409）高平郡，東晉王朝時(shí)僑置的“城武縣”隸屬于南兗州的南濟(jì)陰郡。
劉宋時(shí)（464），縣屬徐洲北濟(jì)陰郡。
北魏（497）于郜城置“城武縣”，仍屬北濟(jì)陰郡。
北齊天寶七年（556）撤北濟(jì)陰郡，于縣設(shè)永昌郡，治郜城，轄成武、豐、沛、單父等地。
北周改西兗州為曹州，永昌郡遂轄于曹州。
隋開皇初（581），廢永昌郡。
開皇十六年（596）于成武故城置戴州，轄成武、單父兩縣。
大業(yè)二年（606）撤戴州，成武復(fù)還舊治，屬曹州濟(jì)陰郡。
唐武德四年（621）復(fù)戴州，治成武；五年，戴州州治由成武移金鄉(xiāng)，成武縣仍屬之。
貞觀十七年（643）戴州撤銷，縣改屬曹州濟(jì)陰郡。
光化二年（899）于單父置輝州，成武縣屬輝州。
后唐滅梁，同光二年（924），改輝州為單州。
縣屬單州，歷后晉、后漢、后周未變。
宋，成武屬單州，縣屬京東西路，仍轄于單州。
建炎元年（1127）南宋建立，縣為金地，屬南京路，轄于單州。
元初，縣屬單州，屬中書省濟(jì)寧路，后改屬曹州。
明洪武四年（1371）縣屬濟(jì)寧府，名“城武”，十八年（1385）濟(jì)寧降為州，兗州升為府，縣改屬兗州府，隸山東布政使司。
清初沿明制，雍正十三年（1735）改屬曹州府。
1913年撤曹州府，縣直屬山東��；1914年山東全省設(shè)4道，縣屬濟(jì)寧道。
1925年，山東省由4道改為11道，縣屬曹濮道，1928年，廢除道制，縣直屬省。
1929年，設(shè)立山東省第二區(qū)行政督察專員公署，成武縣屬之。
1938年山東省第二區(qū)行政督察專員公署分為第十、第十一、第十二行政督察專員公署，縣屬第十一公署。
1939年7月1日，日本侵略者侵占縣城，后建立偽政權(quán)，屬魯西道；1940年，改屬曹州道。
1941年6月4日，于縣東北部合集一帶建立縣抗日民主政府，屬湖西專署。
1943年9月，在成武東南部建成曹縣，屬晉冀魯豫第二十專署。
1945年9月，撤成曹縣，并入復(fù)程成武。
1946年元月，屬第三專區(qū)（湖西）。
1949年8月，建平原省湖西專區(qū)，縣屬之。
1952年平原省撤銷，隨湖西專區(qū)改屬山東省，1953年8月，湖西專區(qū)撤銷，改屬菏澤專區(qū)。
1958年12月，菏澤專區(qū)撤銷，劃歸濟(jì)寧專區(qū)，1959年恢復(fù)菏澤專區(qū)（后改為菏澤地區(qū)）。
1958年10月撤銷定陶并入成武，1961年10月，恢復(fù)定陶縣。
2000年6月，菏澤地區(qū)撤地設(shè)市，成武縣隸屬菏澤市至今。