全面抗戰爆發后，為挽救民族危亡，中共山東省委制定了在全省分地區發動抗日武裝起義的計劃和組織抗日游擊隊的“十條綱領”，迅速派遣干部分赴各地組織實施。10月下旬，共產黨員姚仲明奉中共山東省委的指示，來到長山中學。他以長山中學國文教員的身份為掩護，在校長馬耀南的密切配合下，會同長山中學的中華民族解放先鋒隊隊員，以長山中學為中心，展開了抗日救亡運動。11月初，中共山東省委又派來了廖容標和趙明新，并根據省委指示，成立了以姚仲明為組長的直屬省委領導的中共長山中學特別小組。

在馬耀南的積極支持下，他們抵制了國民黨教育廳關于長山中學南遷的命令，挫敗了特務分子的破壞活動，加緊了起義的準備工作。他們在教職員工中成立了“教學研究會”，積極宣傳抗日救國，團結教職員工。11月下旬，他們又以開辦“民眾夜校”為掩護，舉辦了游擊戰骨干訓練班，培訓抗日骨干60多人。與此同時，他們還在長山中學師生和訓練班學員中發展了一批中華民族解放先鋒隊隊員，吸收李壽令等人入黨，壯大了長山中學抗日骨干力量。另外，他們還創辦了《抗戰小報》，在學生中組織成立了“抗日講演會”，帶領學生到街頭和農村講演，宣傳抗日。馬耀南還利用自己的社會地位和聲望，聯絡地方各界人士成立了“長山縣抗敵后援會”。

在積極做好抗日武裝起義組織準備的同時，中共長山中學特別小組經過慎重考慮，選定緊靠黑鐵山的長山九區作為武裝起義的地方，并派趙明新、魏思文到長山九區開展黨的工作，建立花山黨支部，為舉行黑鐵山抗日武裝起義奠定了基礎。

1937年12月23日，日軍飛機轟炸了長山縣縣城，炸彈落在了長山中學和縣政府附近。國民黨縣政府和縣武裝大隊隨之南逃，社會一片混亂。與此同時，日軍南渡黃河，逼近長山。24日，中共長山中學特別小組連夜召開緊急會議，研究決定：把師生拉到長山九區的衛固一帶打游擊。

姚仲明、廖容標等人派20余名進步學生先行一步，同長山九區的孫鐵民等人取得聯系；馬耀南赴二區和八區聯絡人員和籌備糧款。隨后，廖容標、姚仲明率領長山中學師生轉移到長山城南的一個村莊里，召開了群眾大會，對武裝起義計劃作了布置。當晚，他們率領60多名自愿抗日的師生奔赴長山九區。25日，一行到達黑鐵山下太平莊，同提前到達的趙明新、周次溫等人會合，宣布建立中國人民抗日救國軍第五軍。12月26日夜晚，由長山中學師生和當地“民先”隊員、抗日積極分子組成100多人的起義隊伍，集合在太平莊小學校的院子里，姚仲明宣讀了《告同胞書》，舉行莊嚴的黑鐵山抗日武裝起義儀式。

27日黎明，起義部隊登上了黑鐵山，打出了“山東人民抗日救國軍第五軍”的旗幟。根據中共山東省委指示，山東人民抗日救國軍第五軍由廖容標任司令員，姚仲明任政治委員，趙明新任政治部主任。幾天后，馬耀南和原長山縣保安大隊攜帶武器先后趕到太平莊。不久，馬耀南擔任了起義部隊的參謀長和臨時行動委員會主任。在馬耀南、趙明新等的動員下，附近群眾紛紛慷慨解囊，每天都向第五軍送給養和糧食。

黑鐵山起義不久，山東人民抗日救國軍第五軍進行了統編，隨后，高光字、孟金山等人領導的工人抗日游擊隊，張沖凌、孫鐵民等人領導的農民抗日自衛隊也加入進來，起義部隊迅速壯大。

1938年1月8日，起義部隊夜襲長山，首戰告捷，一舉殲滅了偽長山縣維持會，俘虜漢奸30多人，繳槍17支。1月19日，他們又在小清河陶塘口設埋伏，擊沉日軍汽艇一艘，全殲艇上日軍。此后，黑鐵山起義部隊又在周村以西白云山麓的三官廟一帶，以100余人與日偽軍400多人激戰一天，斃傷日軍百余人。起義部隊連戰連捷，聲威大震，極大地鼓舞了廣大軍民的抗日信心。各地的愛國志士和抗日武裝隊伍紛紛投奔黑鐵山起義部隊。不到半年，這支人民抗日武裝隊伍就發展到30多個中隊，近6000人。