東晉麵對大軍壓境，下達詔令，任命尚書仆射謝石為征虜將軍、征討大都督，任命徐、兗二州刺史謝玄為前鋒都督，與輔國將軍謝琰西中郎將桓伊等人，統帥八萬兵眾抵抗前秦。
並讓龍驤將軍胡彬帶領五千水軍援助壽陽。
共分三路兵馬北上迎擊前秦軍。
十月，前秦陽平公苻融等攻打壽陽。
十八日，攻克壽陽，擒獲平虜將軍徐元喜等人。
慕容垂攻下了鄖城。
苻融進軍攻打胡彬退守的硤石。
前秦衛將軍梁成等率領五萬兵眾駐紮在洛澗，沿淮河布防以遏製東麵的部隊。
苻堅自認為能速戰速決，並派已是前秦尚書的朱序前去勸降謝石，朱序卻私下提示謝石宜先發製人，擊潰前秦的先鋒部隊。
謝石起初認為秦軍兵強大，打算堅守不戰，待敵疲憊再伺機反攻。
聽了朱序的建議後，便改變了作戰方針，決定轉守為攻，主動出擊。
十一月，謝玄派廣陵相劉牢之率領五千精兵開赴洛澗，揭開了淝水大戰的序幕。
秦將梁成扼守山澗部署兵陣迎擊。
劉牢之取得洛澗大捷，斬殺了梁成、梁雲以及弋陽太守王詠，秦軍折損十多名大將及數萬大軍。
劉牢之又派部隊阻絕了淮河渡口，殲滅前秦軍隊一萬五千人，抓獲了前秦揚州刺史王顯等人。
晉軍西行，與秦軍對峙淝水。
十二月有人向苻堅建議後退決戰。
諸秦將認為阻敵淝水畔比較安全，但苻堅認為半渡而擊可主動對決。
當秦軍後移時，晉軍渡水突擊。
朱序、張天錫等人在秦軍陣後大叫：“前線的秦軍敗了！”
秦軍陣腳大亂，隨後晉軍全力出擊，大敗秦軍。
謝玄、謝琰和桓伊率領晉軍七萬，戰勝了苻堅和苻融所統率的前秦十五萬大軍，並陣斬苻融。
淝水之戰，前秦軍被殲和逃散的共有70多萬。
唯有鮮卑慕容垂部的3萬人馬尚完整無損。
苻堅統一南北的希望徹底破滅，不僅如此，北方暫時統一的局麵也隨之解體，再次分裂成更多的地方民族政權。
鮮卑族的慕容垂和羌族的姚萇等其他貴族重新崛起，各自建立了新的國家，苻堅本人也在兩年後被姚萇俘殺。
華夏南北分立的局麵繼續維持。
東晉乘勝北伐，收回黃河以南故土，但不久，因丞相謝安去世和前線主帥謝玄退隱而轉為守勢。
此戰的勝利者東晉王朝雖無力恢複華夏的統治權，但卻有效地遏製了北方少數民族的南下侵擾，為江南地區社會經濟的恢複和發展創造了條件。
淝水之戰也成為以少勝多的著名戰例，載入軍事史，對後世兵家的戰爭觀念和決戰思想產生著久遠影響。
.