史前時期蚌埠地域為淮夷族聚居區(qū)。
春秋戰(zhàn)國時期今市區(qū)和三縣曾分別為徐方、魯、宋、吳、越、楚等國分領(lǐng)。
秦統(tǒng)一后，經(jīng)歷1400余年至宋代，全地域一直未有郡、國、州所轄的縣分領(lǐng)。
至南宋寶祐五年（1257）始，在今懷遠(yuǎn)縣地置懷遠(yuǎn)軍，轄荊山縣。
咸淳七年（1271）始在今五河縣地置淮安軍，轄五河縣。
元至元二十八年（1291），改懷遠(yuǎn)軍為懷遠(yuǎn)縣，撤銷荊山縣。
自此，新建的五河縣、懷遠(yuǎn)縣一直延續(xù)，而今蚌埠市、固鎮(zhèn)縣經(jīng)歷元、明、清諸朝仍屬周圍縣所分領(lǐng)。
清同治二年（1863），劃鳳陽縣馬村溝以西、懷遠(yuǎn)縣席家溝以東、靈璧縣后樓為蚌埠獨立行政區(qū)，置三縣司，直屬安徽省鳳陽府。
但中華民國建立后（1912）即撤銷，蚌埠仍屬鳳陽分領(lǐng)。
由于津浦鐵路通車后，蚌埠成為皖北重要商埠，1947年1月，經(jīng)南京國民政府批準(zhǔn)，蚌埠正式建市，直屬安徽省管轄。
1949年新中國建立后，懷遠(yuǎn)、五河2縣屬皖北行署（后為安徽省）宿縣專區(qū)（一度為蚌埠專區(qū)）所轄。
1983年7月，懷遠(yuǎn)、固鎮(zhèn)、五河縣一并由宿縣專區(qū)（1971年專區(qū)改地區(qū)）劃屬蚌埠市，至今未變。