1947年1月中旬巨金魚戰役后，國民黨鄭州“綏靖”公署所屬部隊主力滯留魯西南老黃河以北，其整編第七十五師正由豫北向商丘、徐州調動，隴海鐵路中段兩側地區主要由地方保安團隊守備。對此，解放軍晉冀魯豫野戰軍首長決心在隴海鐵路徐州至開封段南北地區展開攻勢作戰，以第一、第二、第三縱隊為路北作戰集團，第六、第七縱隊為路南作戰集團，奪取敵守備薄弱的城鎮，求殲徐州、鄭州來援之敵，配合華東野戰軍在魯南作戰。

1月24日豫皖邊戰役發起后，晉冀魯豫野戰軍路北集團連克山東定陶、單縣、曹縣等城，并控制了隴海鐵路民權至商丘段；路南集團在攻取柘城之后，七縱奔襲鹿邑，六縱攻打亳縣縣城。與此同時，解放軍豫皖蘇軍區獨立旅自柘城東進至塢墻集設伏打援。

國民黨軍亳州守軍是整編第七十五師新十六旅二十團，另外還有第八十五師一個新兵營和保安團、“自衛團”以及土雜武裝2000余人。國民黨軍的二十團，是一支有些戰斗經驗的部隊。六縱首長很重視，部署了攻城方案——決定由十八旅攻亳縣縣城城北、城東；十六旅、十七旅攻城南、城西。

2月1日晚，解放軍發起了攻擊，一舉突破縣城北關，隨后，東、西、南三關也相繼被攻破，敵人被壓縮進城中。

2日凌晨5時，五十四團山炮、迫擊炮就位，向目標試射。城內守敵認為解放軍發起了總攻，拼命向解放軍陣地前沿開槍放炮。這樣一來，敵人的火力點便完全暴露。解放軍迅速調整炮位，一齊開火，將敵人的主要火力點、炮樓和城防工事連同城門底下的地堡和鐵絲網盡數摧毀，東北角城墻也被炸開了缺口。

解放軍攻城當機立斷，命令提前發起沖鋒。在機炮連的火力掩護下，突擊隊迅速登上城墻突破口，牢牢控制了突破口的城墻制高點。后續部隊隨即投入戰斗，突入城內，向縱深發展。向城內縱深沖擊的兩個連，進展十分迅速。解放軍通過抓獲的俘虜兵“帶路”，很快沖到敵人指揮部和縣政府，并實施包圍。

見里面的敵人負隅頑抗，解放軍把重機槍架在臨街房頂上，構成交叉火力網，向敵人縣政府的暗堡群和辦公大樓猛烈射擊，壓制敵人火力。爆破小組很快炸毀了鐵門和兩側的地堡，突擊隊沖進院內，守敵紛紛舉手投降。

有100來個敵人企圖突圍，被解放軍包圍。他們先偽裝投降，然后突然狂奔，想趁剛進城的部隊控制不嚴，從城西南角越墻逃跑，結果被解放軍追上并再次包圍。經過一陣短暫戰斗，解放軍將這伙敵人全部消滅，只有國民黨亳縣縣長伏地不動，保住了性命，被解放軍活捉。

2月2日下午5時許，六縱得到情報：國民黨軍兩個團沿亳商公路向亳州增援而來，當即命令部隊發揚連續作戰的作風，堅決消滅增援之敵。六縱部隊立即進入戰場，在兄弟部隊的配合下，殲滅了這股敵人，并繳獲了敵人援軍準備“帶給”亳縣縣城守敵的8門山炮和4門戰防炮。