苻坚不顾大臣们的反对，在公元383年带着八十七万大军威风凛凛直向南方挺进。他有个如意算盘：这次肯定能把晋朝给拿下。经过一个月，苻坚主力到达项城(今河南沈丘南)，益州的水军向东开发，黄河北面的军队也调到了彭城(今江苏徐州)，前秦针对东晋摆出了一股咄咄逼人的架势。

建康城里，晋孝武帝和文武官员变得紧张起来了，他们都盼着宰相谢安拿主意。谢安是陈郡阳夏(今河南太康)人，祖上是有名望的士族。从北方到了南方后，他跟王羲之结为好朋友，他们一批朋友常常在会稽的东山聚会游玩，吟诗喝酒。谢安有才干，又有威望，可是年轻时他宁愿隐居在东山，就是不肯做官。经人推荐他也当过官，只干了一个月，就溜回东山了。直到四十岁，他才再次出来做官。后来人们就把重新出来当官叫作“东山再起”。

谢安非常喜欢下围棋，他下得很慢，常常把后几步棋思考清楚后才运子。当时他的一批朋友都不如他，有的时候，棋友看到他镇定自若的神情就已经气馁。他做事也是这种风格，了解他的人知道他是胸有成竹，不了解他的人还真为他着急呢!

那时，东晋北面的边境常常遭到前秦的骚扰。谢安推荐自己的侄儿谢玄去广陵(今江苏扬州)，掌管江北各路人马。朝廷中有个叫郗（xī）超的官员，一直与谢玄不和，听说谢安推举谢玄，便感叹道：“谢安的高明，在于他能不避嫌疑，以国事为重，推举自己的侄子；谢玄的才能则保证他担当重任，不辜负谢安的重托。”

谢玄一到广陵就开始招募军队。当时有不少从北方逃难的人到了广陵，谢玄把他们都招募进来。其中有个彭城人叫刘牢之，武艺高强，谢玄重用他，他们训练出了一支战斗力很强的军队。这支军队常年驻扎在京口（今江苏镇江），京口又称“北府”，所以这支军队被称做“北府军”。

面对苻坚号称百万的军队南下，宰相谢安对原有的防守力量又重新作了部署，他派弟弟谢石为大都督，谢玄为前锋都督，带领八万人马在江北抵抗秦军；派胡彬将军带五千水军到寿阳(今安徽寿县)对付东来的前秦水军。

出发前，谢玄特地去见谢安，请教宰相面对兵力远远超过自己的敌军，该怎么打才是。谢安像没事似的说：“不要急，我自有安排。”

谢玄只得等着谢安的安排。可是等了老半天，谢安还是没开口。

谢玄只好回了家，可是心里仍然放心不下。过了一天就请好朋友张玄去看望谢安，顺便问问宰相到底怎么个安排。谢安见到张玄仍然没说什么，而是带张玄到自己在山上的一个住地。那里有许多有名望的客人，谢安跟他们谈天说地。张玄几次要开口，可是没有机会。

一会儿，谢安对张玄说：“你是个下棋高手，能不能跟我下一局?要是赢了我，这山上的房子就是你的了!”

张玄本来没有心思下棋，不过想到趁下棋的机会可以问问宰相谢安的打算，也就答应了。谢安下棋像他平时那样不急不慌，张玄却下得挺不自在，结果张玄输了。

接着，谢安又带大家观赏山上的景色，直到天黑才回到住地。

晚饭后，谢石、谢玄等将领都来了。谢安把他对战事的分析和估计一一说明白，把每个将领的任务也一一交代清楚。就像他下棋那样，有条有理，步步稳当，绝不马虎。谢玄听后，原先的疑虑一扫而光。众将领充满信心地回到军营去了。

在荆州的桓冲知道苻坚的进攻来势很猛，不由为建康的安危担心。他派出三千精兵赶到建康增援。不料谢安对他们说：“我已安排妥当。你们还是快赶回去把西面把守好。”

桓冲听了回来将士的报告，仍然很不安。他说：“宰相真有气度，镇定自若。可是他不会打仗，兵力本来不如敌军，让几个年轻人去指挥，我看要大事不好了!”他深深地叹了一口气。

再说苻坚到了寿阳，他以为晋军人数少，不堪一击。正这个时候，谢玄派出刘牢之带领五千精兵，对在洛涧(在今安徽淮南东)的秦兵发动突然袭击。这支北府军就像猛虎下山一样，直向秦军冲杀过去。秦军哪里是对手，刚一交手就垮了下来。秦军将军梁成被晋军杀了。其他秦军争先恐后渡过淮河逃命，大部分淹死在河里。