以駐地河流名稱而命名。
解放前居住有裕固族八個家、五個家、亞拉格家、賀郎格家和藏族黑番家五個部落。
解放初期屬高臺縣管轄，先為直屬鄉(xiāng)，后改為第六區(qū)。
1954年肅南裕固族自治縣成立后建立金泉區(qū)，駐地紅灣寺幾個鄉(xiāng)。
1958年區(qū)址遷往大河，建立大河公社，1962年建置大河區(qū)，1967年改名長征區(qū)，1972年恢復為大河區(qū)，2004年全縣行政區(qū)劃調整將原大河區(qū)所屬的雪泉鄉(xiāng)、喇嘛灣鄉(xiāng)、水關鄉(xiāng)、韭菜溝鄉(xiāng)合并為大河鄉(xiāng)。