西河郡在不同的歷史時期有不同的地理位置。在戰國時期，魏國在河西之戰勝利後，佔據了秦國的領土，並在這些領土上設立了西河郡。這個時期的西河郡位於黃河西岸。到了漢代，西河郡的治所曾經在富昌和離石之間遷移。漢元朔四年（公元前125年）置的西河郡，其轄境包括了今天的內蒙古伊克昭盟東部、山西呂梁山、蘆芽山以西、石樓以北以及陝西宜川以北的黃河沿岸地區。東漢時期，西河郡的治所移至離石。
綜上所述，西河郡的位置隨着歷史時期的變遷而有所不同，但總體上位於黃河沿岸，特別是在戰國時期和漢代，其範圍涵蓋了今天的陝西、山西以及內蒙古的一部分地區。