公元370年，前秦苻坚统一了北方，只有南方的东晋与它对峙。公元383年夏，苻坚不顾群臣的反对，决意攻晋。他颁布诏令，进行全国动员，不到一个月的时间就征集了百万大军。这一年八月，前秦大军浩浩荡荡南下，共计步兵60万、骑兵27万，前后连绵千里，向东晋边境逼近。东晋形势十分危急。
当此之时，东晋朝廷命谢石为征讨大都督，谢玄为前锋都督，领兵8万抗击前秦军。敌军87万，东晋军仅8万人，兵力悬殊，要想取胜必须施展计谋。谢玄知道叔叔谢安很有韬略，临行前便去请教锦囊妙计。哪知进了相府，谢安只说了句“退敌之事已有安排”，便不再说下去。谢玄不好再问，只好告辞。他越想心里越不踏实，便托老朋友张玄到谢安那里探问底细。
谢安见了张玄，硬拉他到郊外与亲朋好友欢聚。路途上，他与张玄谈天说地，论古道今，时时发出爽朗的笑声。当时，京城里人心惶惶，路人见谢安的神情这样自如，顿时将恐慌之心消去。相爷出游的消息很快传开，京都的秩序迅速得以安定。
当天夜里，谢安把将帅们全部召集起来，详细进行军事部署。将帅们见他如此镇定，布置得如此周密，一个个精神振奋，增强了必胜的信心。
龙骧将军胡彬的任务是率领5000水军火速增援寿阳，受命后他立即领兵前往。到了硖石(今安徽凤台西南)，闻报寿阳已经失陷。胡彬当机立断，下令驻守硖石这一要地。
前秦将领苻融一面挥军围困硖石，一面派部将梁成率领5万人马猛攻洛涧(今安徽怀远东南)，准备切断胡彬水军的退路。洛涧失陷后，胡彬的水军成了孤军，他几次领兵突围都没有成功，只好退回营寨固守。
过了几天，粮官向胡彬报告：粮食只能维持几天了，情况十分危急！胡彬派人送信给谢石，说是军粮将尽，敌人攻势又猛，难以突出重围与大军会合，望火速派兵前来援救。不料信使在途中被前秦军捕获，信件落到苻融手中。苻融看了信十分高兴，认为硖石的晋军成了瓮中之鳖。他立即写信给苻坚，请求火速派兵前来，将硖石的晋军一举歼灭。
苻坚看了来信，满心欢喜。他异想天开，想兵不血刃地拿下江东。他派朱序为使者，到谢石那里去劝降。朱序原是东晋将领，镇守襄阳时曾坚决抵抗前秦军，后来兵败被俘，在前秦为官。他时时不忘东晋朝廷，伺机为故国效力。
朱序见了谢家叔侄，不仅没有劝降，反将前秦军的虚实告诉他们，并且献计道：“眼下秦军多在行军途中，还没有到达前线，应当立刻出击，挫伤秦军的锐气。”谢家叔侄经过再三讨论，仔细考虑了利弊，决定立即采取行动。朱序也返回前秦军，寻找机会帮助晋军。
猛将刘牢之接受了攻击敌人的任务，率领5000名久经沙场的精兵迅速向洛涧插去。驻扎在洛涧的前秦将领梁成，因距晋军营寨不远，时时戒备，密切注视晋军动向。后来听说朱序前去劝降，渐渐放松了警惕。
半夜时分，刘牢之领兵杀进敌营，见人就砍，把前秦军的营寨搅得天翻地覆。梁成见势不妙，聚集败逃的前秦军准备组织反击。刘牢之哪肯让前秦军摆好队形，拍马向梁成冲去。梁成与刘牢之战在一处，分不开身，看着部下四下溃散，心里发慌，一个分神，被刘牢之劈下马去。
刘牢之全歼驻守在洛涧的5万前秦军之后，又去援救被围困在硖石的胡彬。胡彬听到外围杀声震天，知道援军已到，立即领兵冲下山，向声音响起的方向杀去。晋军里外夹攻，把前秦军杀得大败而退。
苻坚闻得洛涧秦军被歼，硖石秦军兵败，登时目瞪口呆，过了好一会儿才回过神来。他立即命令苻融抢占淝水东岸堵住晋军，不让晋军攻过河来。苻融告诉他已派张蚝领兵前往，他才把一颗悬着的心放下。
天刚断黑，又传来败讯：张蚝领兵刚渡过淝水，晋军便已赶到，晋军一阵猛冲，秦军败下阵来。秦军现已渡过淝水，回到西岸安营扎寨。苻坚闻讯又是一惊，长叹一声道：“晋军英勇善战，不可等闲视之。”
第二天一早，苻坚带着苻融和众将登上寿阳城头，仔细察看敌情。只见晋军布阵严整，一望便知这是一支训练有素的队伍；再看看东北方向的八公山，隐隐约约似乎有埋伏着的晋军在晃动。苻坚大惊道：“山上有这么多伏军，怎么说晋军人少呢？”实际上，八公山上没有晋军，只是他心里发虚，误将山上摇动的草木当成伏军。
秦军络绎不绝地来到寿阳，局势对晋军越来越不利。谢石、谢玄等人几经商量，想出一个激将法引苻坚上钩。
谢石派军使给苻坚送去一封信，信中写道：“将军率领百万大军前来，本意是想灭我晋室，现在却龟缩在淝水以西，哪像是打仗的样子！如果将军真想与我军交战，请略略后撤腾出一块地方作战场，让我军渡过淝水一决胜负，这才是一件快事！”
苻坚、苻融看了来信十分气恼，苻坚把桌子一拍说：“答应晋军的要求！兵法上说‘半渡而击之’，等到晋军刚刚渡河立足未稳，我军立即冲上去，杀他个落花流水！”苻融听了连连点头，认为此计大妙。苻坚派人告诉军使：届时秦军后撤，双方决出胜负。
决战的那一天，苻坚全身披挂骑在马上，准备指挥大军略略后撤。不一会儿，苻融飞马前来，报告一切准备就绪。苻坚一声令下，大军立即向后退。
谢玄骑马立于东岸阵前，看到秦军后撤，命令先锋部队开始渡河。刘牢之率领一万骑兵，冲向浅水滩强行渡河；胡彬率领一万水军乘坐船只，像离弦的箭一样向对岸驶去。
苻坚命张蚝领兵抵挡刘牢之的骑兵，张蚝是刘牢之的手下败将，未战先怯，抵挡不住刘牢之的铁骑；前秦的水军是由步兵改编而成，更不是胡彬水军的对手。没过多久，晋军的两万人马就渡过了淝水，抢占了滩头阵地。谢玄见先头部队渡河成功，催动大军迅速渡过淝水。
苻坚见晋军已全部渡河，未能“半渡而击之”，有些慌乱，连忙命令大军掉过头来厮杀。朱序见为故国效力的时机已到，在阵后高喊：“秦军败了，快逃命啊！”后面的士卒不知前面的情况，见前面的官兵往后撤，以为真的被打败了，也跟着乱喊，拔起脚来向后逃命。
苻融急得将剑乱舞，企图拦住后退的士兵，冷不防冲来一群乱兵，把苻融的战马冲倒。他正想挣扎着爬起来，晋军已经赶到，你砍一刀我戳一枪，顿时将苻融杀死。
前秦军失去了控制，溃败的局面再也无法挽回。苻坚也被卷入退兵的洪流，只得随着大军逃命。前秦军的千军万马互相践踏，死伤无数。
苻坚在逃跑中，被追赶的晋军一箭射中肩头，他一个摇晃，险些跌下马去。他顾不得疼痛，催马狂奔，一直逃到淮北才停下来歇口气。
仓皇逃命的前秦官兵个个心惊胆战。他们不敢从大路走，专拣杂草丛生的小路逃。夜间，听到风的呼啸声和鹤鸣声，都以为是晋军的追杀声。他们饿了就胡乱找点东西吃，累了就睡在田野里，当时正是冬季，冻死、饿死了许多官兵。
由于晋军同仇敌忾，将领指挥得当，终于击败了十倍于自己的前秦军。
苻坚率领残兵败将逃回关中后，部将慕容垂等纷纷反叛。苻坚被姚苌所杀，前秦随之瓦解。以后，北方先后建立了西秦、后凉、南凉、北凉、后燕、西凉等国，北方又陷入了分裂割据的混乱局面。
