李渊建立唐朝，陇西薛举进犯泾州，李世民率军前往讨伐，但被击败，而后薛举突然病死，李世民再次出兵讨伐其子薛仁杲，并让杜如晦等随军参赞军事，薛仁杲兵败投降，后被斩首。刘武周与宋金刚攻据太原，杜如晦随从李世民前往讨伐，将刘武周击退。

李世民率军进攻洛阳王世充，而王世充又与窦建德联合，杜如晦随李世民先破窦建德，后破王世充。李世民在征讨薛仁杲、刘武周、王世充、窦建德等割据势力时，杜如晦随从李世民参赞军事，为李世民运筹帷幄，判断军势，李世民根据杜如晦的判断准确出击，将各地反王一一消灭。

李世民讨伐各地叛乱，威望越来越高，遭到李建成和李元吉的妒忌，二人与李渊的嫔妃张婕妤、尹德妃暗中勾结，图谋陷害李世民。淮安王李神通以战功获封土地数十倾，张婕妤的父亲私下里找李渊想要那片地，李渊答应他，但李神通以这块地已经先赐给了自己，于是不愿意给张婕妤的父亲，张婕妤却向李渊说是李世民仗势欺人，让李神通夺走了土地。而后杜如晦骑马经过尹德妃的父亲尹阿鼠的府邸，尹阿鼠让家童出来将杜如晦强行拽下马殴打，并且大骂道：“你是什么人，敢过我家门前不下马！”之后尹阿鼠却让尹德妃告诉李渊是李世民让杜如晦欺负尹阿鼠。李世民向李渊深刻辩解，但是李渊十分宠幸张、尹两人，不信李世民。