卫玄的弟弟卫文通等人劝卫玄莫要做的这般决绝，不给自己留回头路，却被兄长大声斥责一番，因此军中无人感言。

卫玄兵出潼关之后，有人担心崤山和函谷关之处有伏兵，请求从陕县沿黄河顺流东下，直奔河阳，攻击杨玄感的后方。

然而此时其军缺少船只，搜寻船只必然耽误时间。

卫玄说道：“依我看来，预设伏兵的计谋不是杨玄感那小子所能想到的。”于是就击鼓前进，出崤谷（河南省崤山山谷）、渑池（今河南三门峡市渑池县）。

过函谷关后，正如他所猜测的那样，果真没有伏兵。卫玄派虎贲郎将张峻从南路进发作为疑兵，自己则亲率大军直奔洛阳城北。

而此时杨玄感也得到了老爹坟墓被挖掘的消息。

杨玄感当时就惊了，大家都是文明人，怎么能干这种事。接着杨玄感便放声大哭起来，任谁被挖了祖坟，也会悲痛万分。其余众人闻之，也纷纷唏嘘，毕竟挖祖坟一事，实在超出众人的心里接受。

哭完之后，杨玄感就指天大骂“卫玄狗贼，吾与你不共戴天！”却是要点起兵马，去与卫玄决一死战。

此时杨玄感明显脑袋头，竟然要全军出击，然而众人都知道他此时的悲愤，也没人敢言，最后还是老将李子雄出言劝动了他。

李子雄是杨素的心腹，多从其征战，数立战功。杨素死后，杨广清洗杨素的旧部，李子雄也因为与新罗使者说话失言，而被弹劾、免职。后来复职之后又因为殿前失仪而获罪被除名为民。