当时的西域都护府的辖境包括自玉门关、阳关以西的天山南北，直到如今的巴尔喀什湖、费尔干纳盆地和帕米尔高原以内的范围，初期有三十六国，以后增加到大约五十国，治所设在乌垒城。

西域都护府既是汉朝的军事驻防区，也是一个特殊的行政区。一方面它与内地的正式政区不同，不设置郡、县，依然保留原来的国，汉朝一般不干预它们的内部事务，但掌握它们的兵力和人口等基本状况；另一方面，都护代表朝廷掌管这些国家的外交和军事权，可以调动它们的军队，决定它们的对外政策，必要时还可直接废立他们的君主，甚至取消某一个属国。正因为如此，西域都护府也是汉朝疆域的一部分。

西域都护的设置，使西域正式划入了汉朝版图，因此也可以说这是一个具有重大历史意义的事件。

只是到了安帝永初元年(公元107年)，西域多国发生战乱，西域都护段禧等人虽然力保龟兹，但由于而道路遥远，中间又多有阻隔，因此朝廷与都护府的檄书不通。朝中公卿议者以为“西域阻远，数有背叛，吏士屯田，其费无已。”因此到了六月，朝廷决定罢西域都护，遣骑都尉王弘发关中兵迎接当时的西域都护段禧以及分布在梁、赵博、伊吾卢、柳中等地的屯田吏士离开西域，返回了大汉的凉州之地。

从此以后，大汉便不在西域设置都护府，经过了十几年之后，由于西域各国的要求，并愿意遣子入朝为质，东汉朝廷于是在于永宁元年，曾经就是否放弃大汉对西域的统辖权进行过庭议，当时东汉在西域已经没有了管理机构和驻军、屯民。于是朝中便有人建议皇上彻底放弃西域，而班固之子班勇却极力反对，强调西域对大汉朝的重要性，并且建议朝廷在敦煌和楼兰等地恢复驻军。

经过朝堂上一班大臣的争吵之后，主张继续对西域诸国进行管辖的一派占了上风，而且朝廷也采纳了班勇的建议，决定在敦煌驻军三百人，这就是史载的“于是从勇议，复敦煌郡营兵三百人，置西域副校尉居敦煌”。

到了延光二年(公元123年)，朝廷决定在西域建立西域长史府，以班勇为西域长史，复平西域，遂以长史行都护之职，秩比二千石。