河南蒙古族自治县位于青藏高原东部，青海省的东南部。
东临甘肃省甘南藏族自治州夏河县、碌曲县，南临甘肃省甘南藏族自治州玛曲县，西北与青海省果洛藏族自治州玛沁县和海南州同德县毗连，北与自治州泽库县为邻。
东西长127.67千米，南北宽94.36千米。全县总面积6250平方千米。
