王莽失败后，窦融投降更始军，在大司马赵萌部下为校尉，后被推荐出任巨鹿太守。
窦融见更始政权不稳，东方扰乱，不愿出关。
窦家累世在凉州为官，窦融的高祖父曾为张掖太守，从祖父曾为护羌校尉，从弟为武威太守，累世在河西，知其土俗。
他对其兄弟说:‘天下安危未可知，河西殷富，带河为国。
张掖属国精兵万骑，一旦缓急，杜绝河津，足以自守，此遗种处也。’兄弟们都同意他的看法。
窦融于是辞巨鹿太守，谋求镇守河西，把家属带了去。
在那里，抚结雄杰，怀辑羌众，河西民心向之。
窦融在河西，与酒泉太守梁统、金城太守库钧、张掖都尉史苞、酒泉都尉竺曾、敦煌都尉辛肜等结交，倡议‘推一人为大将军、共全五郡，观时变动。’
于是众人一致推窦融行河西五郡大将军事。
是时武威太守马期、张掖太守任仲得知消息，解印绶离去。
窦融仍居于属国，领都尉职，而置从事监察五郡。
窦融当时采取了以下几项措施：
一是在稳定社会方面。
窦融在经营河西五郡之初，面临着极为严峻的外部环境。
当时隗嚣称王陇右、卢芳与匈奴联兵扰掠北部边疆羌人寇掠金城、陇西匈奴胁迫西域各族东寇，河西郡县城门常常昼闭。
在如此严峻的政治形势下，窦融为稳定河西地区社会，首先运用权谋，断然改变了河西各郡郡守权均力齐、各自为政状况‘
使自己登上了河西五郡大将军之位，并将政治、经济、军事权力集于自己一人之手，又把各郡豪杰、名士抚纳于自己翼羽之下，从而形成了一个相对稳定的政治集团，使经营河西的活动有了政治保证。
其次，窦融从一开始就大力扩充步兵和骑兵，不断加强军事力量。
在平日厉兵秣马，而战时则与各郡郡守共同率兵出征，且屡战屡胜，遂使河西五郡出现了兵马精强的局面。