全面抗戰(zhàn)爆發(fā)后，1938年10月，一二四師在師長曾蘇元的帶領(lǐng)下，馳赴羅山，阻擊日軍的進(jìn)犯。

前進(jìn)途中，曾蘇元召集團(tuán)長們邊走邊研究，然后下達(dá)口頭命令：為保衛(wèi)羅山縣城，決定在羅山縣城城東的任崗、城南小羅山、羅山城地區(qū)占領(lǐng)陣地，阻止日軍繼續(xù)西進(jìn)。一二四師所屬的三個(gè)團(tuán)，在各自作戰(zhàn)地區(qū)連夜趕筑工事。

10月3日拂曉，日軍沿公路向一二四師發(fā)起進(jìn)攻，逐步迫近任崗及一二四師的主陣地。8時(shí)左右，日軍炮兵開始向一二四師主陣地猛烈轟擊。9時(shí)后，敵人步兵在炮火掩護(hù)下發(fā)起試探性沖鋒，逐漸進(jìn)入一二四師主陣地前方有效火力網(wǎng)內(nèi)。隨著師長一聲令下，一二四師槍炮齊發(fā)，日軍很快被打退。

12點(diǎn)后，日軍發(fā)起第二次攻勢。在猛烈的炮火掩護(hù)下，一部分?jǐn)y帶毒氣的日本兵偷偷接近一二四師前沿陣地，企圖施放毒氣，被一二四師偵察哨發(fā)現(xiàn)，陣地上的官兵守兵立即捂上防毒的濕毛巾，后退到較高地點(diǎn)。等毒氣散開，日軍開始發(fā)起沖鋒，一二四師官兵立即回到陣地，萬彈齊發(fā)，挫敗了敵人的第二次進(jìn)攻。

敵人見強(qiáng)攻不成，遂向一二四師陣地傾瀉大量炮彈。一二四師官兵隱蔽在事先挖好的堅(jiān)固工事中，沉著應(yīng)戰(zhàn)。下午2時(shí)許，日軍步兵第三次發(fā)起沖鋒，一二四師官兵奮起抵抗，激戰(zhàn)至下午5時(shí)，終于將敵人擊退。

10月4日凌晨，曾蘇元一面命令部隊(duì)抓緊時(shí)間休整，一面派出小股部隊(duì)騷擾敵人。夜1時(shí)許，一二四師偵察隊(duì)對信潢公路附近的日軍營地發(fā)起偷襲，燒毀了敵人的部分軍需物資。

天亮后，敵人繼續(xù)發(fā)起攻擊，一二四師頑強(qiáng)守衛(wèi)陣地，打退了敵人四次進(jìn)攻。下午三四點(diǎn)左右，日軍見久攻不下，派飛機(jī)飛來掃射、轟炸，給一二四師官兵造成很大傷亡。激戰(zhàn)之際，敵人援軍趕到，一二四師官兵臨危不亂，又一次打退了敵人的進(jìn)攻。敵人見正面攻擊屢次失敗，開始實(shí)施迂回作戰(zhàn)，派重兵對羅山城南的小羅山高地發(fā)起了攻擊。駐守在小羅山的部隊(duì)是一二四師的一個(gè)排，雖然英勇抵抗，但寡不敵眾，陣地被敵人奪取。敵人遂在小羅山上架起機(jī)槍和迫擊炮，居高臨下向羅山城南關(guān)汽車站的一二四師師部指揮所掃射。曾蘇元立即命令師部戰(zhàn)士退到敵人機(jī)槍射程外，并組織了一個(gè)營的預(yù)備隊(duì)反攻，很快奪回了小羅山。

當(dāng)夜，有偵察員報(bào)告說：又有日軍大部隊(duì)秘密向小羅山方向移動(dòng)，準(zhǔn)備襲擊一二四師陣地的側(cè)后。曾蘇元聞?dòng)嵑螅⒓聪蛏霞?jí)建議：為了避免被敵人包圍，應(yīng)該迅速放棄任崗及羅山縣城，將部隊(duì)轉(zhuǎn)移到羅山縣城西南二三里的子路河以西與欄桿鋪連接的山地上再設(shè)防線。得到上級(jí)批準(zhǔn)后，曾蘇元立即命令部隊(duì)于5日零點(diǎn)開始撤退，經(jīng)過羅山縣城向北轉(zhuǎn)移，撤到十幾里以外的子路河構(gòu)筑新的防御陣地，同時(shí)派出小股部隊(duì)對敵人進(jìn)行徹夜騷擾。

由于曾蘇元布置有方，一二四師掩護(hù)城內(nèi)百姓從容撤出，“不損一人一槍”。天明后，日軍雖發(fā)現(xiàn)一二四師撤走，但苦于連日戰(zhàn)斗損失慘重，根本不敢追擊，過了好幾天都不敢進(jìn)入羅山城。