在索靖率軍襲擾叛軍糧道之際，劉羨並未隨軍出征，而是坐鎮泥陽，緊鑼密鼓地修繕城池。
雖然劉羨此前在六陌之戰小勝了齊萬年一手，但劉羨心中明白，那不過是有心算無心。真正論對戰爭的理解，如今的自己恐怕仍不如對方。至少齊萬年在乳峰之戰的謀畫，就是自己難以達到的。因此，劉羨並不敢抱有絲毫齊萬年不來攻城的僥倖，他必須以最高的警惕來對待。
因此，在索靖等騎軍出擊之時，他親自督工，領著上萬名民夫改建泥陽城。
首先是將城池內外尚不堅實處拆掉重建，改建的材料是混合著河泥與石灰的三合土，再澆上水與糖漿，包裹上青磚。石灰遇水會蒸發出熱量，騰騰白煙，因此在當時，這種築城法又叫做蒸土築城法，在春風中冷卻下來後，城牆凝結如鐵，拿鑿子也很難鑿進去。
而後他在城外大肆挖掘壕溝，原本就有的七尺壕溝，被他加深至一丈四尺，多挖了近一倍。然後在深溝左右還設有陷阱，或是把竹子削尖了埋進去，還在上面塗抹上人或動物的糞便，能夠讓人感染，或是灑下一些塗了色的鐵蒺藜，在暗無天日的壕溝下，根本無法防禦。
與此同時，劉羨也消滅了泥陽城外周遭五里內所有的樹林與建築，包括民房在內，能砍就砍，不能砍就燒。百姓們全部遷移到夏陽去。等到一月過後，泥陽城外可謂是寸草不生，而劉羨也提前在城牆上蓋起了木樓與木棚，四丈高的城牆，像是平地崛起一般長了兩丈。
除此之外，劉羨還做了諸多準備。他鼓勵麾下的農民臨時去種一些萊菔、菘菜、菠菜等收成期短的蔬菜，又收集北地郡周遭的桑葚，曬成桑葚幹，派獵隊去山中游獵。總而言之，竭盡一切手段來儘可能囤積糧食，為接下來可能發生的圍城戰來做準備。
可即使如此，齊萬年解圍前來攻打北地的速度，仍然超過了劉羨的想象。
在劉羨看來，佔據長安的誘惑實在太大了，如果是自己，寧願冒著損失過半的危險，也要強攻拿下。所以劉羨保守估計，齊萬年可能會稍作嘗試，進展不順利的情況下再退回渭北，到那時他稍作休整，再攻打北地，估計已經是五月份中旬。
結果齊萬年僅僅是在第二次糧道遇襲後，竟然連一次攻打長安的嘗試也沒有，直接放棄了攻城，轉而調轉大軍來封鎖北地，這時才不過是三月下旬，連春天都還沒有過去。劉羨鼓勵百姓們做的農作物，也才剛收了一次而已。
九萬大軍簡直如潮水一般湧入北地郡內，當先頭部隊抵達富平的時候，後方的部隊黑壓壓彷彿烏雲，在南面首尾相接多達二十餘里。北地的百姓們看到胡人的旗幟，心中就好似飛來了一座大山。劉羨早叫他們不必死守，於是這些人紛紛四散而逃，惶恐的樣子簡直像是喪家之犬，惹來叛軍士卒們一陣嘲笑。
等到大軍抵達富平城的時候，富平城也早已是一座空城，裡面所有的壯丁早就被劉羨所遷走了。但士卒們的表現卻是比較輕鬆，在他們看來，這是敵方畏懼自己的表現。
可齊萬年在得知這個訊息後，心情卻難免陰沉，他也反應過來，晉軍退讓得越乾脆利落，就說明他們防禦的決心極為堅決，防禦的準備也較為周全，這次的攻城戰，看來是難以輕鬆結束了。
而等他們繼續行軍，遠遠地看見一座巨堡橫空而起，屹立在土塬之上，前扼河谷，背靠崇山。其餘將領也不禁勒馬心驚，相互議論道：
“真是天險之地啊！這樣一座巨城，我們當時是怎麼丟掉的？”
只要是久經戰事的人，看到泥陽城的第一眼，就知道這將是一座將要吞吃人性命的深淵。直到這個時候，他們才開始有些後悔，當時竟然沒有在這裡佈下重兵。
不過此時說什麼也晚了，劉羨能夠順利收復北地郡，本來也出乎眾人的預料之外。當時他們不夠重視犯下的錯誤，現在就只能用行動和生命來進行彌補。
而在胡人大軍開始在泥陽城下安營紮寨的同時，劉羨、索靖等人也在城牆上觀察對方的動向。
在得知叛軍大舉返回渭北的訊息後，索靖第一時間就回到了泥陽，他此時和劉羨站在一起，俯瞰對面叛軍的佈置，發自內心地對劉羨感慨道：
“齊萬年確實是胡人中難得一見的人物，每和他對壘一次，就會發現他的水平有所精進。”
“此前入關的時候，讀解系寫的戰報，說齊萬年御下不嚴，時常有士卒散逸逃走。若不能佔據天時地利，就不敢與人對敵，也無法取得勝利。”
“扶風對陣的時候，說是六陌之戰的時候吧，他的軍隊就已經能做到退而不亂，敗而有度了。即使一時失利，士卒也會跟隨大軍行進，這就是大將之風。”
“到了眼下，接連大勝，人數又有優勢，他軍中應該有驕氣。但我現在看過去，發現各部之間秩序井然，哨兵和衛隊來回巡遊，竟然沒有鬆懈。這是又進了一步啊！”
劉羨對此也深感贊同，他現在望過去，只見遮天蔽日的陰雲下，叛軍已經至東、南、西、北四面包圍泥陽，軍容甚是嚴整，旗幟獵獵，甲士如雲，與此前徵西軍司的老兵們相比，幾乎看不出差距了。
但作為即將被近十倍兵力圍攻的守城方，劉羨並不感到悲觀，因為泥陽的地理位置之優越，是不會因對方的兵力優勢而有所減弱的。
泥陽所在的土塬名叫底石塬。因山塬的北面與喬山山脈靠近而得名，其間僅有一條山徑可以透過，基本無法駐軍。塬東與塬西其實也沒有多大的空間，僅能讓數千人在這裡展開，無法形成致命的攻勢。唯有城南處較為平緩，可以容納上萬人，也就是天然的主攻方向，這也就意味著，劉羨只需要把精力多放在城南，就足以應對攻勢了。
齊萬年顯然也明白這個道理，所以他並不急於攻城，而是在駐紮營壘的同時，先派人到城下喊話。