虞夏為徐州之域。
商為卞明國(guó)。
周為魯國(guó)卞邑。
秦仍為卞邑，屬薛郡。
西漢置卞且，屬徐州魯國(guó)。
東漢沿用西漢舊制。
三國(guó)屬魏。
西晉屬魯郡。
西晉末全境淪于石勒，東晉太和元年（366）陷于燕。
寧康元年（373）陷于秦。
南朝宋初，卞縣廢。
泰始二年（466）復(fù)置，屬魯郡。
因兗州刺史畢敬眾降魏，其后，所屬忽宋忽魏。
至宋末梁初常屬北魏。
北魏，縣境西部為汶陽(yáng)縣，東部為卞縣，均屬魯郡。
隋開(kāi)皇十一年（591）因泗河發(fā)源于境內(nèi)而更名為泗水縣，隸屬魯郡。
唐，屬河南道兗州魯郡。
后五代，屬兗州。
宋，為京東西路襲慶府所轄。
金，為山東西路兗州所轄。
元，屬濟(jì)寧路兗州，至元二年（1336）泗水縣并入曲阜。
至元三年（1337）春，因治理不便，于泗城西八里音義置錦川縣。
同年冬，廢錦川縣，復(fù)置泗水縣，仍隸屬兗州。
明，洪武初，隸屬濟(jì)寧府兗州。
清，隸屬兗州府。
1913年，裁府制改省、道、縣三級(jí)制，泗水縣為山東岱南道所轄。
1914年，為濟(jì)寧道所轄。
1927年，直屬省轄。
1936年，泗水隸屬第一行政督察區(qū)。
1938年1月，日本侵略軍占領(lǐng)泗水，日偽成立泗水縣政府，屬第十五行政督查區(qū)1939年末，游擊泗水縣政府宣告結(jié)束。
1947年，國(guó)民黨軍隊(duì)重占泗水后，泗水縣仍屬山東省第十五行政督察區(qū)所轄。
1939年春，建立抗日民主政權(quán)，以滋臨公路為界，劃為兩個(gè)縣：公路以南為鄒東縣，以北為泰泗寧中心縣。
1940年春，泰泗寧中心縣撤銷，恢復(fù)泗水縣，歸魯南一地委領(lǐng)導(dǎo)。
1941年7月，泗水與曲阜合并，成立曲泗縣。
1946年4月，撤銷曲泗縣，恢復(fù)泗水縣，歸魯南第一專屬濟(jì)寧專區(qū)。
1948年6月，泗水解放，泗水縣屬魯南第一專署。
1948年10月，隸屬尼山專署。
1950年2月，隸屬滕縣專署。
1950年5月，隸屬泰安專署。
1956年5月，隸屬濟(jì)寧專署。
1983年10月，隸屬泰安地區(qū)。
1985年5月，隸屬濟(jì)寧市。