为此，西河凯旋之日，李渊就建立统帅部大将军府，分置三军：李建成为陇西公，左领军大都督，统率左三军；李世民为敦煌公，右领军大都督，统率右三军，李元吉为太原郡守，留守晋阳富；裴寂为静为军司马，执掌军务；唐俭、温大雅及其弟温大有为记室，同掌机密，武士彟为铠曹，刘政会、崔善为、张道源为户曹，姜暮为司功参军，长孙顺德、刘弘基、窦琮、王长谐、姜宝谊分别为左右统军、副统军。
这样，从五月甲子到六月癸巳，仅用了四十八天的时间，李渊便基本完善了自己的军政组织。
在这段时间里，李渊还效法李密当年的做法，在太原开仓放粮，赈济贫乏，附近百姓欢喜雀跃，踊跃从军，数旬之内，又增兵员三万。