三萬年前的舊石器時(shí)代，就有人類在靈武縣城北的臨河水洞溝繁衍生息：距今五千年至七千年靈武縣城北部的三道溝、東部的鴛鴦湖等地生活著新石器時(shí)代的人群；夏商二代，靈武是土方、羌方的居地；西周時(shí)期靈武境內(nèi)的部落謂之戎狄。
春秋時(shí)期秦國(guó)勢(shì)力逐漸發(fā)展到靈武地區(qū)，戰(zhàn)國(guó)時(shí)期靈武為秦國(guó)北地郡轄地，秦始皇統(tǒng)一六國(guó)，據(jù)有寧夏平原河?xùn)|地區(qū)開始在此戍邊，秦推行郡縣制，今靈武屬北地郡富平縣（富平縣治在今吳忠市西南）轄地。
西漢惠帝四年（前191）治靈州縣；三國(guó)時(shí)期北方魏國(guó)有十二州，靈州屬于雍州管轄，東晉十六國(guó)時(shí)北方政權(quán)更替頻繁，靈州先為前趙、后趙，繼為前秦、后秦、大夏之地。
太延二年改靈州為薄骨律鎮(zhèn)，孝昌二年改薄骨律鎮(zhèn)為靈州，北魏分裂后靈州初屬東魏，后屬西魏。
太平三年東魏遷靈州至汾州置僑治靈州，大統(tǒng)六年，西魏在果園城建筑靈州城，治靈州。
北周取代西魏后靈州屬北周，西魏與北周時(shí)期靈州轄境當(dāng)為今之銀川平原，北周設(shè)置靈州總管府，被稱為塞北江南是塞上江南之稱的來源。
隋朝大業(yè)元年，罷府為靈州，仍為寧夏平原最高政區(qū)機(jī)構(gòu)。
隋大業(yè)三年靈州改為靈武郡。
唐初恢復(fù)靈州舊名，復(fù)置總管府。
武德七年，改都督府。
貞觀元年，靈州屬關(guān)內(nèi)道，開元九年，靈州又置朔方節(jié)度使。
玄宗天寶元年，改靈州為靈武郡。
天寶十四年，太子李亨北赴靈武于7月12日在南門樓登基即位為肅宗，升靈武郡為大都督府。
五代十國(guó)時(shí)期五十余年，藩鎮(zhèn)割據(jù)，靈州、靈武郡始終為朔方軍節(jié)度使駐地。
宋初，政區(qū)設(shè)置沿襲后周制度為州縣二級(jí)制。
宋開寶二年（969），廢節(jié)度使存州，靈州領(lǐng)縣，其轄境約為今之寧夏平原。
宋咸平五年（1002），黨項(xiàng)首領(lǐng)李繼遷攻占靈州，于靈州置西平府為其王國(guó)都城。
寶元元年，李元昊正式立（西）夏國(guó)，遷都興慶府，靈州為西夏陪都置翔慶軍司。
元朝仍為靈州，先后屬西夏中興路，行省和寧夏府路。
洪武十六年，古靈州城被河水浸毀，于故城北七里處筑城，置靈州河口守御千戶所。
宣德三年（1428）城又被河水崩陷，復(fù)在相距舊城東北五里處筑新城，即今靈武市區(qū)所在處。
景泰三年增筑新城。
清雍正三年（1725），廢除衛(wèi)所，改靈州千戶所為靈州直隸州，隸屬寧夏府。
同治十二年（1873），將靈州之南金積堡析出改設(shè)寧?kù)`廳，直屬寧夏府。
1913年改靈州為靈武縣屬寧夏省。
新中國(guó)成立初，靈武縣屬寧夏省。
1950年吳忠堡析出設(shè)市。
1954年寧夏省撤銷并入甘肅省設(shè)河?xùn)|回族自治區(qū)，后改為吳忠回族自治州，靈武縣屬之。
1958年成立寧夏回族自治區(qū)，靈武縣屬自治區(qū)管轄。
1972年歸銀南地區(qū)所轄，1996年5月國(guó)務(wù)院批準(zhǔn)靈武撤縣設(shè)市，1997年12月將靈武納入寧夏經(jīng)濟(jì)核心區(qū)范圍，2001年2月規(guī)劃為自治區(qū)能源化工基地，2002年10月由吳忠市移交銀川市。