……羌人姚襄，何其坦蕩，名士殷浩，如此慼慼！
353年，北伐進軍途中，姚襄倒戈反晉，迅速打敗了殷浩的北伐軍，並縱橫淮河地區，在盱眙（xūyí）建立根據地。354年，姚襄佔領陳留，其勢力範圍已經可以直接威脅建康的安危，後由於部將勸說，率軍北上，轉據許昌。在得知東晉叛將周成佔領洛陽後，356年，姚襄率軍攻打洛陽，企圖以洛陽為根基，進而佔領關右地區，以圖天下。
嚴峻形勢下，東晉升任桓溫為征討大都督，督司、冀二州諸軍事，率軍討伐姚襄。
桓溫第二次北伐開始。
356年八月，北伐軍到達伊水，久圍洛陽而不克的姚襄隨即撤圍，率兵迎戰桓溫。
伊水之戰，桓溫識破姚襄詐降之計，親臨戰陣，披甲督戰。晉軍結陣向前，大敗姚襄，斬首數千，姚襄僅率千餘人逃走。隨後，叛將周成向晉軍投降，北伐軍收復洛陽。
當時，軍中盛傳姚襄已死。許、洛百姓聞之，無不望北而泣。
當時，弘農楊亮自姚襄處投奔桓溫，對戰敗而逃的姚襄做出如下評價：神明器宇，堪比孫策，然而雄略武勇，恐在孫策之上。
357年，姚襄被前秦將領鄧羌所殺，時年二十七歲。
收復故都洛陽後，桓溫拜謁並修復先皇陵寢，數次上書東晉朝廷，要求還都洛陽。
從當時的情況來看，隨著歲月流逝，老一代中原遺民漸漸消亡，年輕一代並沒有切身的亡國之痛，北伐的“人和”優勢正在淡化，此次進軍洛陽是最好也是最後的機會。前秦正在忍受符生的苛政折磨；前燕慕容氏內部不穩，慕容俊在幽、冀一帶疲於奔命；而東晉經過數年修養生息，國力大增，正是還都的大好時機。
但是，建康城中的東晉君臣早已忘記南渡時“唯有蹈節死義，以雪天下之恥”的誓言。
江南的大宅子已經建起來了，各處產業也早已經豐碩，完全適應江東生活的東晉君臣一心偏安，不敢也不願返回故地。認為遷都洛陽是“驅踧於窮荒之地……離墳賁墓，棄生業……舍安樂之國，適習亂之鄉”。
總之，好日子已經過上了，除了桓溫，大家都不想走。
桓溫只能徒然嘆息：“永結根於南垂，廢神州於龍漠，令五尺之童掩口而嘆息！”
無奈之下，桓溫攜周成及三千餘家平民南歸。
第二次北伐至此結束。
由於前燕的擴張，司、青等四州隨即得而復失，北伐成果沒能保住。
第二次北伐收復了洛陽，趕走了姚襄，達到了預期戰果，桓溫聲威大振。《世說新語》中載：“簡文作撫軍時，嘗與桓宣武俱入朝，更相讓在前。宣武不得已而先之，因曰：“伯也執殳，為王前驅。”簡文曰：“所謂‘無小無大，從公於邁’”，正是在此時發生。桓溫的聲威，已經達到可以和當時尚在主政的簡文帝司馬昱“無大無小”了。固是謙辭，卻也是寫照。
北伐的成功加深了朝廷對桓溫的忌憚，永和十二年（356）第二次北伐結束，昇平四年（360年）朝廷才因功加封桓溫為南郡公，桓溫既沒能掌控朝堂，也沒有獲得豫州、徐州的控制權，這為桓溫的第三次北伐埋下伏筆。
不可否認，對更高權力的追求，是桓溫北伐目的之一。戰場上為祖國披堅執銳的將軍，同樣也夢想著出將入相，萬戶封侯。投筆從戎去，萬里覓封侯。這並不是桓溫的過錯，恰是他的動力所在。
關乎根本利益之所在，才會迸發出洪荒之力的英勇。
第二次北伐成果的喪失，也讓桓溫深刻認識到國力不足的無奈。數萬將士浴血拼殺的輝煌戰果，卻因為後續力量不足而拱手讓人，這是桓溫後來實行“土斷”的直接原因。
國與國的戰爭，歸根結底是綜合國力的角逐！