當時，到達枋頭的晉軍情況並不樂觀，雖然北伐軍節節勝利，但西路軍袁真在平定譙、梁之後，並沒能順利打通石門漕運糧道，完成戰役目標。慕容垂派燕范陽王慕容德、蘭臺侍御史劉當率騎兵一萬五千駐屯石門，完全斷絕晉軍東、西兩路會師可能。桓公瀆也由於乾旱而水位下降，不能通運。北伐軍水運不通，退路及糧食供應均被切斷，桓溫頓兵枋頭，鄴城雖近在咫尺卻不敢揮兵直進。
而且，在頓兵枋頭之後，桓溫和慕容垂幾次交手均遭失敗，又有傳言前秦援軍將至，北伐軍士氣愈發低迷，此消彼長之下，退兵已成必然。
369年九月，由於水路不通，桓溫命令燒掉所有船隻，放棄全部輜重，從陸路撤軍。沿途為防止燕軍投毒，一路鑿井而飲，行七百餘里而追兵不至，晉軍於是放鬆警惕，開始大踏步後撤。
其實，前燕的追兵一直就在北伐軍的身後，慕容垂親自率領八千騎兵尾隨追蹤，並不是不願出擊，而是在等待一擊而勝的時機。
當晉軍認為燕軍並沒有派出追兵時，當晉軍放鬆警惕防備鬆散時，當晉軍思鄉心切戰意漸消時，當晉軍日夜兼程疲憊不堪時，那就是燕軍進攻的時機。
很榮幸，慕容垂等到了這樣的機會；很不幸，晉軍正如慕容垂所料。
桓溫見追兵未至，於是大膽撤軍，命令晉軍兼程而進。緊隨北伐軍身後的慕容垂隨即下令急速追趕，並使慕容德率精騎四千於襄邑（今河南睢縣西）設伏。
九月，慕容垂在襄邑追及晉軍，慕容德伏兵盡出，前後夾擊，大敗桓溫，殺傷晉軍達三萬人。前秦援軍也應邀而至，前秦將領苟池在譙國再次擊敗桓溫，晉軍傷亡以萬計。
369年十月，桓溫收攏散兵，屯駐山陽（今江蘇淮安），第三次北伐以慘敗告終。
這是桓溫最後一次北伐，此敗之後，再不北伐。
值得一提的是，勸說前秦苻堅出兵救援前燕的人，就是那個在桓溫軍帳中捫蝨論天下的王猛。一別經年，各為其主。
總體而言，桓溫三次北伐並無建樹，最後一次更是損失慘重，在此對於北伐失敗的原因總結如下：
首先，借用史書話語，桓溫北伐動機不夠純粹。“挾震主之威，蓄無君之志，企景文而慨息，想處仲而思齊，睥睨漢廷，窺覦周鼎。”北伐成了桓溫立威東晉，名震江東的工具，收復失地還我山河反倒成了次要願望了。也正因為此，桓溫害怕失敗，進軍務求持重，大好形勢下常觀望不前，貽誤戰機。
其次，在將領的個人謀略上，正如前燕申胤所評，桓溫“驕而恃眾，怯於應變”。固然有其務求持重的原因，但也反映桓溫不善於捕捉戰機，指揮作戰缺乏靈活性。尤其在第三次北伐撤軍途中，其個人謀略明顯比慕容垂很是遜一籌。
最後，東晉君臣偏安東南一隅，志在割江自保，無意恢復失地。反倒是對桓溫權勢日盛而深懷戒心，不願看到桓溫北伐成功。因此，桓溫的北伐並不能得到東晉朝廷的全力支援。正如前燕申胤所評：“以溫今日聲勢，似能有為，然在吾觀之，必無成功。何則？晉室衰微，溫專制其國，晉之朝臣未必皆與之同心。故溫之得志，眾所不願也，必將乖阻以敗其事。”
桓溫的北伐是孤獨的，前有強敵，後有掣肘。一段偉大的事業，本該上下同心、全力以赴的征程，在上位者各自利益的驅動下，成了桓溫一個人的旅程。
桓溫所進行的北伐，雖然損失慘重，建樹無多，但卻為北方人民反抗剝削與壓迫的鬥爭提供了支援，沉重打擊了少數民族的殘暴統治，這是符合當時北方人民願望的。桓溫的北伐，猶如一盞明燈，在黑夜中帶給了北方人民戰勝異族奴役的信心和希望。
戰後，慕容垂功高遭嫉，被迫出逃。
戰後，渡過難關的前燕沒有兌現向前秦求援時的割地許諾，燕主慕容暐遣使苻堅“分災救患，理之常也”，雙方因之反目。這直接導致前秦發動滅亡前燕的戰爭。
桓溫的北伐沒有滅亡前燕，前燕卻因為桓溫的北伐而走向滅亡。