經過了兩天時間的巷戰，城中的日軍僅剩下了1萬多人，被壓縮到了一片狹小的區域。
由於此時日軍的兵力相對集中，他們的抵抗也越發頑強了。聯軍部隊的攻勢進展緩慢。
看到部隊的損失很大，地下黨負責人和高洪就來找高九，希望由他出面來勸說被包圍的日軍投降，從而減少部隊的損失。
高九卻不主張他們這麼做，他認為魯南軍區的部隊兵力龐大，這是一個絕佳的練兵機會。
建議把參加圍攻日軍的部隊分成幾個批次，採用車輪戰的辦法，不停地向日軍發起攻擊，每一支部隊都能夠得到實戰鍛鍊，也能夠輪流得到休整的機會。
隨著日軍節節敗退，在未來，魯南軍區的部隊將會面臨眾多的攻堅作戰，這麼好的練兵機會最好不要放過。
地下黨負責人和高洪等人認為高九說得有道理，於是他們就把部隊分成了三個梯隊，把那些縣大隊的部隊也編了進來。這就是為了讓他們都有機會參加攻堅作戰，來鍛鍊部隊，增加部隊的攻堅作戰經驗，提高部隊的戰鬥力。
事實證明，高九的建議十分有效。魯南軍區的部隊兵力眾多，官兵們輪流作戰，隨時可以得到休整，消除疲勞，恢復戰鬥力。
日軍根本就得不到休息，隨時都會面對著敵軍猛烈地進攻。官兵們都十分疲憊，精神上都快撐不住了。
兩天以後，日軍被包圍在城西以泰安第一中學為中心的狹小區域，兵力總數已經不足5000人了。
不僅如此，他們的彈藥基本上已經消耗完畢，沒有能力繼續再打下去了。
日軍第142師團長覺
得十分委屈，明明在濟南城以及徐州都有大量的日軍，他們卻見死不救，眼睜睜地看著他們送死。
他看到實在是打不下去了，就萌生了向高九投降的念頭。
殘餘的日軍官兵們現在已經心無鬥志了，經過商量之後，他們決定投降，以保全殘餘的日軍的生命。
他們豎起了白旗，並且要求派代表跟聯軍部隊談判。
高九、地下黨負責人、高洪等人經過商議，認為如果城中的日軍能夠投降，對於瓦解其他的日軍，是一個很好的榜樣。因此他們同意接受日軍投降。
不久以後，日軍第142師團長就率領著殘餘的日軍5317人向聯軍部隊投降。
經過了12天的激戰，泰安戰役終於結束了。這次戰役殲滅了日軍62000餘人，偽軍50000餘人，是一場輝煌的勝利，振奮了全國抗日軍民計程車氣。
地下黨負責人、高洪等人都十分興奮，這一次他們的收穫極大，不僅鍛鍊了部隊，還重新奪回了泰安城。
他們這一次下定了決心死守泰安城，再也不讓他落入日軍的手中了。
濱田義至畢竟是瞭解高九的，他分析得很對。桃花山游擊隊在這一次戰役中，傷亡200多名游擊隊員，彈藥和油料的消耗能夠以天文數字來形容，桃花山游擊隊短時間內也無法再進行大規模的戰役，於是他們就轉入了休整。
泰安戰役對日軍也構成了很大的影響。作為山東地區日軍的最高指揮官，羽田將軍受到了上級的指責，給他撤職、留用檢視的處分。華北方面軍司令官和濱田義至也被迫對上級進行書面檢討。