話說楊忠考察完考城布防之後，回來稟報給陳慶之，陳慶之看著地圖，計上心來，“揜於（楊忠的字），此戰丘大千的人馬在此紮營保衛皇上，還是你我率親兵前去迎戰。他元暉業以為憑借天險，卻不知這水能護城，亦能克城。”
楊忠會意，“陳將軍是想築浮壘攻城？”
陳慶之欣賞地看著楊忠，“果然英雄出少年啊，我不信那丘大千。揜於，我要讓你看看我如何隻用這七千人馬，戰至洛陽。”二人相視而笑。
四月二十日，陳慶之進軍考城，使用浮壘攻城，沒費吹灰之力就攻克考城，並且生擒元暉業。這一戰梁軍繳獲了豐富的戰利品，僅戰車就俘獲了七千八百輛。攻克考城後，大軍繼續向西進發，一路上魏軍守將望風而降。五月一日，北魏大梁守軍望白袍而降。
爾朱榮和元天穆此時已經在濟南大敗邢杲，邢杲投降，四月在洛陽被斬首。河北形勢稍作平息之後，爾朱榮便開始集結大軍來對付元顥、陳慶之，他選擇在滎陽城下與陳慶之決戰，阻止其繼續北進。他派遣左仆射楊昱率領七萬羽林軍，先將陳慶之阻擋在了滎陽。而元天穆率領援軍日夜兼程趕赴滎陽，準備形成包圍之勢。另一支由爾朱世隆率領的一萬人馬進駐虎牢關，意圖截斷陳慶之的退路。
此番陳慶之進攻滎陽，不再似之前攻城略地那般輕而易舉，駐守滎陽的七萬羽林軍不但裝備精良，而且滎陽城高池深地形易守難攻，幾番進攻之下，仍然守得固若金湯。
而元天穆帶來的更是久經沙場的北魏精銳騎兵，誓把陳慶之剿滅於滎陽城下，當距離陳慶之不過百裡路程時，他準備從背後直插陳慶之軍營。梁軍大營內的將士們聞到探子來報，開始擔心腹背受敵，畢竟這是幫彆國之人打江山，自己送了性命豈非太不值得。軍心動搖之際，陳慶之果有口才，命令兵馬稍作休息，騎在馬背上，大聲說道，“大梁的將士們，我們背井離鄉，隻軍突入魏國，我陳慶之一介書生，手不能搭弓，肩不能扛槍。我們區區七千人馬，卻能戰勝魏國數萬，甚至數十萬之眾，是為什麼？是因為你們有大無畏的勇氣，還有思鄉之情，因為我們想快點結束這場戰爭，回到我們的國土，解甲歸田，侍奉雙親。如今元天穆帶著三十萬鐵騎就在我們身後，與他們正麵交戰，我們必死無疑。現在我們是腹背受敵，但是我們不能投降，試問我們一路攻城略地，侵占彆國土地。這一路，被我們殺死的魏人不計其數，他們魏國與我們有深仇大恨，我們投降了，能活嗎？不能，他們絕不會放我們一條生路。既然都是死路一條，不如我們拚了，雖然我們隻有七千人，對方三十萬人，但是趁著元天穆沒有進攻前打下滎陽，我們就還有一線生機。大家若想活著回家，就跟著我陳慶之一起上，寧可馬革裹屍，也不能做受辱降兵。大家敢不敢拚了嗎？”
聽了陳慶之的話，眾將士情緒激昂，摩拳擦掌，紛紛高喊“敢！敢！敢！”
陳慶之見士氣如虹，正是一鼓作氣之時，便一聲令下發起攻城，七千大梁戰士勇猛無比，前赴後繼，終於在元天穆形成包圍之前攻克滎陽，守城的都督元恭，太守、西河王元悰在逃走時被生擒。楊昱在門樓之上被梁軍綁縛送到元顥麵前，元顥因開始勸降楊昱，他拒不受降，心裡氣憤，問道，“當日勸你歸降於朕，你竟以忠孝拒絕朕，今日城破，你又降了，是怕死了嗎？如今朕便是殺了你，也是你負了朕。”
楊昱身上還插著箭矢，回道，“我之所以立於城樓不下，是擔心被亂兵誤殺。不是我楊昱怕死，而是家中的父親已經八十，無人供養，不想他病無所依，乞求饒我一命，奉養父親終老。”說完，含淚跪拜。
元顥動容，吩咐楊忠將他暫押大牢。
陳慶之見元顥不殺楊昱，率眾三百餘人跪請元顥殺了楊昱，“臣與皇上渡江三千裡，攻城三十餘座，七千子弟無有損傷。如今這滎陽一役，損傷五百餘兄弟，不殺楊昱，如何安慰我這些兄弟的在天之靈。”
元顥回答，“朕曾聽梁王說，當年袁昂不降，被梁王讚譽稱為忠節。梁王尚且如此，朕不該學他，非要殺了楊昱呢？除了楊昱，其餘的人隨便愛卿處置。”
陳慶之無言以對，於是怒斬楊昱下屬統帥三十七人，皆令梁兵刳腹取心以酒佐之，以慰死傷的五百餘戰士。
吃完魏軍統帥心臟後，士兵士氣更甚。陳慶之突出奇招，率三千騎兵反撲剛剛抵達滎陽的元天穆。元天穆大驚，無論如何也想不到陳慶之竟然帶著剛剛結束苦戰，仍疲憊不堪的梁軍對自己發起襲擊。一時措手不及，數萬魏軍竟全線潰敗，元天穆隻帶了幾十騎倉皇向北逃脫。陳慶之大勝之後緊接著襲擊虎牢關，虎牢關的爾朱世隆此時聽說了滎陽城破、元天穆三十萬大軍亦敗，嚇得早魂不守舍，一聽陳慶之聚到關下，準備進攻，竟毫不猶豫地棄關而逃，卻害的自己的親兄弟爾朱世承未及逃走，被陳慶之抓到除以臠刑，割下的肉一片一片地丟了喂狗。
虎牢關一破，洛陽岌岌可危，爾朱榮從未嘗過如此大敗，特彆是爾朱世承被淩遲喂狗，更是奇恥大辱。他怒氣衝衝一腳踢翻跪地求饒的爾朱世隆，大罵無膽鼠輩，“我將如此重要城池給你守衛，你竟然不戰而逃，還喪了你兄弟的性命，你還敢跑回來？”爾朱世隆不敢發一言，幸得眾將求情才免了軍法。
元寬見洛陽危及，向爾朱榮請求入洛陽協助元子攸棄城，再謀後事。北鄉公主日日啼哭求爾朱榮接英娥回來，爾朱榮拗不過，吩咐爾朱兆與元寬一起入洛陽，接元子攸出京。
公元529年五月元子攸在元寬和爾朱兆的護送下，帶著太妃、英娥和綺菬逃往河內（今河南沁陽），吩咐留守的朝臣不予反抗，先迎元顥入洛陽，以徒日後還朝。五月二十五日，元顥入洛陽繼位稱帝，改元建武。