李世民被封为天策上将，并建立文学馆，用杜如晦为从事中郎，为十八学士之首，李世民常常到文学馆与杜如晦等讨论经义，而且经常说到晚上。但太子李建成却对对此非常忌惮，他对齐王李元吉说：“秦王府中能让人担心的，只有房玄龄和杜如晦两人。”于是，李建成上言李渊，将房玄龄与杜如晦逐出京师。

李建成拉拢尉迟恭遭到拒绝，于是派人刺杀尉迟恭，失败后李建成上言李渊将尉迟恭打入大牢，李世民将尉迟恭保释出来后，尉迟恭打听到李建成和李元吉，想要于昆明池对李世民不利，将此事告诉了长孙无忌，长孙无忌立刻去找李世民，让李世民先发制人，但李世民因自己与李建成是亲兄弟，所以犹豫不决，尉迟恭劝谏李世民不能以小仁而废社稷大义，并表示如果李世民不做决定，自己将和长孙无忌逃离，但李世民还是拿不定主意，尉迟恭又与侯君集日夜劝谏。

这时，李世民想起了房玄龄和杜如晦，于是派长孙无忌秘密将二人召回，但二人被李渊逐出京师，私自回京就是死罪。李世民于是取自己的佩刀交给尉迟恭，尉迟恭带房玄龄与杜如晦化妆成道士潜入秦王府，经过与房、杜二人的谋划之后，李世民终于下定决心，发动玄武门事变，将李建成和李元吉诛杀。事成之后，李世民被立为皇太子，杜如晦被任命为太子左庶子，李世民论功行赏，拜杜如晦为兵部尚书，进封蔡国公，赐实封食邑一千三百户。