新石器時代在三河一江流域就有人類開發(fā)這塊亙古荒原，自中華民族有了文字，甲骨片上就已刻上了“羌”字。
羌人部族眾多，隨著歷史的進程，甘南的羌部逐漸建立自己的部落聯(lián)盟或依附中原王朝，民族間的交流逐漸頻繁起來。
秦時部分地方已屬臨洮管轄。
西漢時，東部屬隴西郡，北部屬金城郡，設(shè)白石、羌道二縣。
隋時的臨洮郡、袍罕郡、宕昌郡分別管轄今甘南的西北和東南部部分地區(qū)。
唐朝初年廢郡置州，甘南境內(nèi)曾為洮州、芳州、迭州的全部和河州、宕州的部分，西北部屬吐谷渾、吐蕃的范圍。
元代屬宣政院轄，吐蕃等處宣慰司統(tǒng)領(lǐng)。
明代屬陜西都司管轄，清乾隆時，州境大部屬鞏府，夏河由循化撫番廳管轄。
1913年，廢府設(shè)道，臨潭縣屬蘭山道，西固縣曲縣屬渭川道。
1928年，建立夏河縣，改屬甘肅管轄，1937年，成立卓尼局。
1949年9月至12月，臨潭、卓尼、夏河、西固相繼解放。
1952年7月14日，甘南藏區(qū)委員會，1953年10月，甘南藏族自治區(qū)成立，1955年7月1日，改為甘南藏族自治州，州府設(shè)在合作市，是全州政治、經(jīng)濟、文化中心。