1947年1月中旬，巨金魚戰役結束后，被人民解放軍晉冀魯豫部隊消滅1.6萬余人的國民黨軍只得將其鄭州“綏靖”公署所屬部隊主力滯留魯西南老黃河以北，又把整編第七十五師由豫北向商丘、徐州方向調動，而隴海鐵路中段兩側的地區只有少數部隊和地方保安團隊防守。對此，解放軍晉冀魯豫野戰軍決心在隴海鐵路徐州至開封段南北地區迅速發起豫皖邊攻勢作戰：即以第一、第二、第三縱隊為路北作戰集團，第六、第七縱隊為路南作戰集團，奪取敵人守備薄弱的城鎮，并尋殲徐州、鄭州等處的來援之敵，配合華東野戰軍在魯南發起的戰斗。

1月24日，晉冀魯豫野戰軍三縱部隊在單縣、單虞縣地方武裝的配合下包圍了國民黨軍盤踞的單縣縣城。

據偵察，單縣縣城城墻高達10米，環城筑有寬約30米的護城河，河中水深沒頂，不能徒涉；城墻附近的民房已被國民黨守軍拆毀，進城的大路也被挖斷，敵人沿城墻遍設鹿砦、拒馬等障礙物，又修建了大批堅固的明碉暗堡和工事。駐守該城的國民黨軍是整編第八十八師二十一旅六十三團以及地方警憲特務等，共約3000余人。

三縱對單縣縣城進行包圍后，縱隊首長立即向所屬各部傳達了“以第七旅由城西、城南，第九旅由城東、城北實施攻擊，以城西為主要突擊方向，第八旅為預備隊”的作戰方案。

24日下午，第七、第九旅冒著冰雪嚴寒發起攻擊，首先掃清了敵人設在城外的據點，并分別突進到預定位置。

此時，在守敵的不斷求援下，由豫北南下的國民黨軍王敬久集團主力前鋒已逼近商丘、民權地區，為了趕在敵援兵來到之前攻克單縣縣城，第七、第九旅經過短暫準備后，于25日17時許打響了攻城戰斗。

三縱將攻城的主要突擊方向設在城西，任務交由七旅二十團完成。二十團突擊隊冒著城上敵人的槍林彈雨發起沖鋒，迅速清除了城下的鹿砦、拒馬等障礙物，接近城門。但爆破組在爆破城門的時候發現，守敵用大量沙袋和泥土把城門洞完全堵死，雖經多次爆破未能炸開通道。加上敵城墻兩側暗堡和橋頭堡火力十分兇猛，而攻城部隊炮火不夠集中，因而攻擊沒有奏效。

七旅與九旅首長商議后，報縱隊首長批準，下令暫停了攻擊。經過實地勘察，七旅與九旅首長決定仍以七旅二十團從西門擔任主攻，十九團隨二十團投入戰斗，二十一團從南門助攻；山炮和戰防炮隱蔽前出至距西門城垣六七十米處，以便直接摧毀敵火力點；為了彌補火力不足，將第二十團和第十九團的迫擊炮及輕、重機槍全部集中到第一線陣地，對各種火器摧毀、壓制和封鎖的目標一一作了明確區分。工兵連也遵照首長指示，組織班組長研究了裝藥方法——決定組織兩個組，第一組由3人組成，用兩包25公斤的扁方形炸藥包，放置于上一次爆破的洞穴內引爆；第二組作為預備組，相機出擊。

26日16時30分，攻城戰斗再次打響。炮火迅速摧毀了西門守敵的火力點，緊接著，第一爆破組三名爆破手飛身躍出掩體，奔向城門，隨著驚天動地的一聲巨響，城門被炸開了。

突擊隊隨即跨過護城河，一舉登上城墻，打退了守敵，并沿著城墻向兩翼發展；與此同時，作為二梯隊的十九團指戰員從西門突進城內，投入縱深戰斗。二十一團和第九旅二十五團分別突破南門和東門，會同從西門攻入的部隊將敵人分割包圍。

戰斗在午夜23時結束。經過6個多小時的激戰，解放軍共斃、傷敵700余人，俘敵第六十三團副團長趙鈺三以下2260余人，繳獲山炮4門、迫擊炮和六〇炮7門，輕、重機槍54挺。

在三縱奪取單縣的同時，兄弟部隊同樣凱歌高奏——二縱于24日攻克定陶縣城，一縱隊在二縱的協同下于26日拿下曹縣縣城，全殲守敵。至此，路北作戰集團控制了定(陶)單(縣)曹(縣)的廣大地區。