抗戰(zhàn)時(shí)期，山東沂水縣城為魯中地區(qū)的中心城市，日偽對魯中抗日根據(jù)地進(jìn)行“掃蕩”的指揮機(jī)關(guān)就設(shè)在這里。敵人在這一戰(zhàn)略要地構(gòu)筑工事，加固城防，修建機(jī)場，以重兵據(jù)守。

1944年夏，隨著抗日戰(zhàn)爭的節(jié)節(jié)勝利，遵照山東軍區(qū)指示，八路軍魯中軍區(qū)決定集中4個(gè)主力團(tuán)、軍區(qū)特務(wù)營及地方抗日武裝和民兵一部，于1944年8月15日晚發(fā)起沂水戰(zhàn)役，一舉克復(fù)沂水縣城。具體部署是：以兩個(gè)團(tuán)進(jìn)攻沂水縣城；1個(gè)團(tuán)攻擊南關(guān)，1個(gè)團(tuán)和軍區(qū)特務(wù)營、地方抗日武裝一部圍攻外圍據(jù)點(diǎn)。戰(zhàn)前，魯中軍區(qū)偵察員利用黑夜到達(dá)城外，摸清了敵人的兵力配置情況——沂水縣城有3米高的堅(jiān)固圍墻，城墻外有寬5米、深3米、積水1米多深的壕溝，壕溝外密布著鹿寨和鐵絲網(wǎng)；縣城內(nèi)駐有偽軍8個(gè)中隊(duì)共1000多人；城南關(guān)駐有日軍1個(gè)分隊(duì)，分布于東南角、正東、東北角、西北角、西南角和中心6個(gè)大碉堡內(nèi)。針對敵人的部署，魯中軍區(qū)指導(dǎo)部隊(duì)進(jìn)行了充分的組織準(zhǔn)備、物資準(zhǔn)備和攻堅(jiān)訓(xùn)練。

8月15日夜，八路軍參戰(zhàn)各部隊(duì)秘密進(jìn)入預(yù)定位置。22時(shí)戰(zhàn)斗打響，攻城部隊(duì)對城門、城墻、火力點(diǎn)實(shí)施連續(xù)爆破，云梯組迅速架起云梯，突擊隊(duì)爬墻強(qiáng)攻。激戰(zhàn)不到30分鐘，突擊隊(duì)相繼突破北門、東門、西門，與敵人展開巷戰(zhàn)。16日上午，八路軍利用偽軍家屬和俘虜展開政治攻勢，迫使數(shù)百被包圍的偽軍繳械投降。戰(zhàn)至16日下午2時(shí)，被八路軍壓縮到城西南角小圍子內(nèi)的偽軍殘部被殲，偽縣長也被活捉。與此同時(shí)，沂水縣城周圍各據(jù)點(diǎn)也被八路軍全部攻克。

15日夜，攻擊南關(guān)的魯中軍區(qū)部隊(duì)，對南關(guān)敵人據(jù)點(diǎn)實(shí)行連續(xù)爆破，連續(xù)炸毀東南、西南兩個(gè)碉堡。日軍不支，退守于東北、西北、東和中心4個(gè)碉堡，向外大量施放毒氣，負(fù)隅頑抗。16日拂曉，魯中軍區(qū)部隊(duì)再次實(shí)施爆破，又炸毀了東碉堡，全殲守?cái)场|北碉堡的敵人彈藥耗盡，只得偷偷跑出碉堡，回中心碉堡取彈藥。八路軍發(fā)現(xiàn)后，悄悄摸進(jìn)碉堡。不久，東北碉堡的敵人攜帶彈藥回來，遭到八路軍迎頭痛擊，頓時(shí)死傷大半，只有3個(gè)敵人僥幸逃回中心碉堡。

16日上午，莒縣日偽軍乘8輛汽車趕來增援，途中被魯中軍區(qū)事先部署的阻擊部隊(duì)打得丟盔卸甲，狼狽回竄；蒙陰日偽軍一部也趕來救援，行至坦埠附近，也被打援部隊(duì)伏擊，大敗而歸。

16日晚，八路軍將日軍中心碉堡和西北碉堡分割，并決定于半夜先攻取西北碉堡。戰(zhàn)斗打響后，戰(zhàn)士們浴血奮戰(zhàn)，近距離爆破，于午夜前拿下了西北碉堡。午夜后，八路軍對敵人中心碉堡發(fā)起強(qiáng)攻。中心碉堡守?cái)朝偪裣蛲馍鋼?，并再次施放毒氣。八路軍指?zhàn)員耐心等待毒氣消散，繼續(xù)向中心碉堡發(fā)起攻擊，但兩次爆破均未奏效。經(jīng)指揮員觀察，原來敵人中心碉堡建在一個(gè)由巨石修建的基座上，基座有1米多高，前兩次爆破，炸藥包都放在基座上，沒能炸到碉堡圍墻。八路軍爆破組立即調(diào)整戰(zhàn)術(shù)，把50公斤的炸藥包捆在帶叉的長竿上實(shí)施第三次爆破。隨著一聲巨響，中心碉堡墻壁被徹底炸塌，守?cái)潮蝗繐魯馈?/p>

17日6時(shí)，戰(zhàn)斗結(jié)束。魯中軍區(qū)首長一面指揮打掃戰(zhàn)場，一面集中部隊(duì)于南關(guān)日軍碉堡群，總結(jié)攻堅(jiān)經(jīng)驗(yàn)；同時(shí)動(dòng)員周邊群眾萬余人拆除了沂水縣城的城墻、炮樓，填平外壕。

為奪回沂水縣城這一戰(zhàn)略要地，日軍集中千余人和大批偽軍，蜂擁向沂水縣城撲來。魯中軍區(qū)部隊(duì)在打掃戰(zhàn)場后，立即撤出城外待機(jī)殲敵。19日，增援?dāng)橙诉M(jìn)城，見城內(nèi)敵人已遭全殲，城墻也被拆除，頓時(shí)不知所措。20日，八路軍突然向敵人發(fā)起進(jìn)攻，敵人連遭打擊，不得不向莒縣逃走。從此，被日偽軍盤踞6年之久的沂水城回到人民手中。

此次戰(zhàn)役，八路軍魯中軍區(qū)部隊(duì)共斃傷日軍31人、偽軍219人，生俘日軍20人、偽軍820人，不僅鞏固了魯中山區(qū)抗日根據(jù)地，更使魯中、濱海兩個(gè)抗日根據(jù)地連成一片。