公元３８３年八月，苻堅(jiān)親自帶領(lǐng)八十七萬(wàn)大軍從長(zhǎng)安出發(fā)。向南的大路上，煙塵滾滾，步兵、騎兵，再加上車輛、馬匹、輜重，隊(duì)伍浩浩蕩蕩，差不多拉了千把里長(zhǎng)。

　　過(guò)了一個(gè)月，苻堅(jiān)主力到達(dá)項(xiàng)城（在今河南沈丘南），益州的水軍也沿江順流東下，黃河北邊來(lái)的人馬也到了彭城（今江蘇徐州市），從東到西一萬(wàn)多里長(zhǎng)的戰(zhàn)線上，前秦水陸兩路進(jìn)軍，向江南逼近。

　　這個(gè)消息傳到建康，晉孝武帝和京城的文武官員都著了慌。晉朝軍民都不愿讓江南陷落在前秦手里，大家都盼望宰相謝安拿主意。

　　謝安是陳郡陽(yáng)夏（今河南太康）人，出身士族，年青的時(shí)候，跟王羲之是好朋友，經(jīng)常在會(huì)稽東山游覽山水，吟詩(shī)談文。他在當(dāng)時(shí)的士大夫階層中名望很大，大家都認(rèn)為他是個(gè)挺有才干的人。但是他寧愿隱居在東山，不愿做官。有人推舉他做官，他上任一個(gè)多月，就不想干了。當(dāng)時(shí)在士大夫中間流傳著一句話：“謝安不出來(lái)做官，叫百姓怎么辦？”

　　到了四十多歲的時(shí)候，他才重新出來(lái)做官。因?yàn)橹x安長(zhǎng)期隱居在東山，所以后來(lái)把他重新出來(lái)做官這樣的事稱為“東山再起”。

　　苻堅(jiān)強(qiáng)大起來(lái)以后，東晉的北面邊境經(jīng)常遭到秦兵的騷擾。朝廷想找一個(gè)文武全才的將軍去防守邊境。謝安把自己的侄兒謝玄推薦給孝武帝。孝武帝把謝玄封為將軍，鎮(zhèn)守廣陵（今江蘇揚(yáng)州市），掌管江北的各路人馬。

　　謝玄也是個(gè)軍事人才。他到了廣陵以后，就招兵買馬，擴(kuò)大武裝。當(dāng)時(shí)有一批從北方逃難到東晉來(lái)的人，紛紛應(yīng)征。他們中間有個(gè)彭城人叫劉牢之，從小練得一身武藝，打仗特別勇猛。謝玄派他擔(dān)任參軍，叫他帶領(lǐng)一支精銳的人馬。這支人馬經(jīng)過(guò)謝玄和劉牢之的嚴(yán)格訓(xùn)練，成為百戰(zhàn)百勝的軍隊(duì)。由于這支軍隊(duì)經(jīng)常駐扎在京口（今河蘇鎮(zhèn)河市），京口又叫“北府”，所以把它叫做“北府兵”。