隨著陳玉成的甲三師和梁立泰的甲四師一道佔領了衡陽城。整個衡州府，除了東南面的安仁縣和酃縣外，其餘的均被討虜軍佔領。
梁立泰派人往廣州送去報捷的信報後，在衡陽城內只休整一天，便立即出兵，攻佔臨近的攸縣和衡山縣城。他也是被逼無奈。出兵到現在，只是佔領了長寧和耒陽兩處小縣，連衡州府城都是等陳玉成擊敗了湘勇，湘勇退敗後，衡陽城才主動開城門投降的。
因此，他梁立泰就沒多少功勞，手下將士也憋著一肚子火氣。誰讓他們沒有那麼好的洋槍裝配呢？不過，梁立泰還是覺得他採用太平軍時期的金田團營那一套練兵之法，確實有些不適宜了。面對攻城戰，除了挖地道爆破外，沒其他的方法了。總不能次次等著別人獻城吧。
在手下參謀的一番鼓動下，梁立泰分兵兩路，進攻攸縣和衡山縣，準備繼續往北進軍。
而陳玉成一見梁立泰率甲四師出征，他當然也不甘示弱，除留一團留守衡陽城外，他率領甲三師主力直接進入湘鄉縣境，先就去剿滅湘勇的老窩。
特別是對於那湘勇的頭目曾國藩，陳玉成知道，這人連聖王都提起過好幾次，於是，陳玉成暗暗決定，首先要將此人抓獲，敬獻給聖王！
於是，陳玉成率領甲三師，在水師主將彭玉麟的配合下，經過彭玉麟的老家渣江鎮，直接北上，衝向才五十里外的曾國藩的老家湘鄉荷葉塘鎮，準備將曾國藩家人一舉擒獲。
沒想到，從衡陽逃走的曾國藩早有準備。早二天前已提前將家中老父和其餘的兄弟全部隨湘勇帶到長沙。
找不到人的陳玉成，率兵進入曾國藩老家的荷葉塘鎮白楊坪村，也不燒其祖宅，只是在大門上貼上幾張請軍中書吏書寫的“漢奸”、“滿清韃子走狗”、“忘祖奴才”等字樣，而後，又派兵在白楊坪村召集附近鄉人，在曾家祖宅前面開了個批判大會。
“曾家乃名門望族，春秋曾子後代，黃帝子孫，如今曾家竟然淪落到替滿清韃子賣命，不復曾子奉節，更加愧對黃帝子孫後人的身份！”曾家大門口，甲三師的幾個書吏參謀高聲叫道，引得眾鄉民一陣圍觀。
“如今，我聖王佔據兩廣，進軍糊南和福鍵；而太平軍的天王佔據長江一帶，更是攻下六朝古都南京城，滿清朝廷二百餘年，氣數已盡，再為滿清韃子做奴才的，必將是遺臭萬年的結果！”甲三師參謀長石煥之搖頭晃腦地大聲念道，然後一聲令下：“潑！”
只見數百名討虜軍士兵，人人手持木質馬桶，轟地一聲，二人合力，將馬桶甩向曾家祖宅院牆上、屋簷上和大門上、窗沿邊。
一桶桶滿裝汙穢的淺黃色糞水，流了出來，將曾家祖宅裡裡外外潑了個遍。頓時，曾家祖宅裡外一股沖天的屎臭。曾宅的前簷下的四根樑柱上，也滿是糞汁，和大門一道，被染得五花八門。
末了，陳玉成又下令，將曾宅前面的荷塘填平，立一塊碑文，上面請附近的石匠雕刻上“韃子奴才和漢奸遺臭萬年”的字樣！
完事後，陳玉成又讓各團將士自行召集鄉民，宣示聖國的田畝制度，惹得眾鄉民一陣興奮，如果真像這幫叛軍說的，能有地種，地主和大戶人家能減少租糧，倒也是天大的喜事!
一時間，原本對討虜軍糟蹋大戶人家曾家的祖宅，沒什麼好感的一幫鄉民，又紛紛覺得討虜軍還不錯。緊接著，陳玉成又將曾家來不及收拾的財物全部抄沒，分發給四周的窮苦百姓，更是引得眾人連連稱讚。