郅辅的太守官帽还没戴稳，随即又被河间王褫夺。原来河间王将张方的首级送给东海王请求讲和，东海王不仅不同意，反而督促各军加速向关中进发。河间王后悔莫及，迁怒于郅辅，派人将他给杀了出气。
但是杀了郅辅除了消消气根本于事无补，关东诸军势如破竹。平昌公的部将宋胄攻克河桥，楼褒战败向关中逃窜；平昌公又派前锋督护冯嵩与宋胄一同进逼洛阳，成都王弃城而走，也向关中逃窜，逃到华阴将要进潼关的时候，成都王得知河间王正向东海王求和，生怕被河间王出卖，于是滞留华阴不敢向前。吕朗当时还屯兵荥阳，刘琨拿着张方的头颅去招降，吕朗一看张方已死，心知大势已去，于是投降。
永兴三年（公元306年）二月初六，甲子日，东海王传令诸军，以祁弘、宋胄、司马纂为将，率鲜卑与各州将士西进关中，迎回皇帝车驾；同时又任命原河南尹周馥为司隶校尉，假节，屯兵弘农郡渑池都督诸军。
河间王闻讯大惊，派出弘农太守彭随、北地太守刁默出兵驻守弘农郡湖县。湖县背后就是潼关，过了潼关就是关中，河间王此举是想阻止关东军入关。
有了这道防线，河间王依然觉得不放心，又安排马瞻、郭传屯兵于霸水，这是保卫长安的第二道防线，也是最后一道防线。
四月十五，己巳日，东海王北渡黄河，屯兵于河内温县。当时黄河以北已经没有河间王的军队，东海王此举应该是在防范势力日益强大的公师藩等人。
五月初八，壬辰日，祁弘与彭随、刁默会战于湖县，大败关中军，河间王的第一道防线被攻破，鲜卑铁骑长驱直入关中；
驻守霸水的马瞻、郭传也没有顶住鲜卑人的汹涌攻势，马瞻的军队最终被打散，马瞻逃亡。
霸水兵败，长安的失陷指日可待了，河间王弃城而逃，单骑向西南狂奔三百里，逃进了太白山。太白山是秦岭中段的主峰，树木葱郁，山上终年积雪，翻过太白山就是汉中，但那时汉中已经落入流民军的手中，河间王前后都有敌人，已经走投无路了。
祁弘进军关中示意图
河间王走后，祁弘领着鲜卑骑兵进入长安，鲜卑人重复了他们当初在邺城的所作所为，烧杀抢掠无恶不作，据《晋书》说“杀二万余人”，据说当时天地含悲，“日光四散，赤如血”。长安的官员、百姓惊恐万状，纷纷逃出城，躲进附近的山中，夜宿山林，饿了捡橡树果子等物充饥。
五月十五，己亥日，祁弘留太弟太保梁柳为镇西将军留守关中，自己带着此次出征的战利品惠帝司马衷启程回洛阳。当时长安也已是残破不堪，无法筹备天子法驾，祁弘等武夫估计也不懂这个，惠帝是坐着牛车回去的，众公卿更倒霉，徒步。
这么走了十五天，六月初一，丙辰日。惠帝终于回到了洛阳，重登旧日大殿，惠帝哀感流涕，群臣也再次陪着恸哭。哭完了，惠帝去太庙向列祖列宗问安，又派人到金墉城接出羊氏，第五次立为皇后。