不过杨广的大业还没开始，自河东便传来一个惊动地的消息。汉王杨谅以“清君侧，诛杨素”为由，在并州起兵造反了。

先时杨坚在仁寿宫病重，杨谅得到消息后，几次请求回京侍疾。当时杨坚也没想到自己病情后来会加重，他由于担心先是加封杨昭为皇太孙，再加上若让杨谅回京，会过度的刺激杨广，因此便拒绝了杨谅的请求。

但后来杨谅病重，再加上杨俨、柳述之乱，为了避免可能出现的动乱，杨广便招杨谅还朝。

这时的杨谅接到令后，还很是欣喜，一路疾驰南下，欲返回长安。不过杨谅也在长安有后手，等到杨谅到达蒲坂，竟传来杨坚病逝的消息。杨谅得信大惊，自觉若是就此返回长安怕是自身性命难保。因此在手下众饶怂恿之下，杨谅急忙率部返回并州。

杨广知道杨谅逃回并州的消息之后，只得哀叹时运不济，失去了解决河东问题的大好机会。因为中央政府没有准备妥当，杨广也不想过度刺激杨谅，因此佯装不知，乃命屈突通持隋文帝的玺书去晋阳（今太原市西南）征汉王杨谅入朝，参加杨坚的葬礼。

父亲死了，这次不管你有什么理由，总该回京了吧。

此时杨谅已经知道了隋文帝临终之前罢并州行台之事，又思虑自己与杨广父子的关系不睦，他若是就此回京，恐性命不保。

这时谋士裴文安献计可诈屈突通一番，看朝廷有无加害汉王之心。因此见到屈突通之后，杨谅乃道：“当日孤离京之时，曾与先帝有言，先帝曾‘如果有玺书召你，验看敕字加点，还与玉麟符相合，方可受命上路。’今日你持先帝诏书来并州，这诏书之中，为什么没有敕字加点？”