1937年全面抗戰爆發后，紅軍主力改編為八路軍，迅速開赴抗戰前線。9月25日，八路軍一一五師取得了平型關大捷。11月太原失守后，在華北，隨著國民黨正規軍和國民黨地方政府相繼撤走，共產黨、八路軍領導的游擊戰爭成為對日偽斗爭的主要方式。八路軍一一五師主力南下，一一五師副師長聶榮臻率獨立團、騎兵營等部隊和部分軍政人員進駐五臺山，發動群眾，擴大抗日武裝，開展游擊戰爭，很快創立了晉東北、察南、冀西三個游擊區。11月7日，晉察冀軍區成立，聶榮臻任司令員兼政治委員，初步形成了以五臺山為中心的晉察冀抗日根據地。同月，中共晉察冀省委成立。11月18日下午，聶榮臻率領著晉察冀軍區機關進駐阜平縣城。

晉察冀抗日根據地初步成立后，根據地軍民在共產黨的領導下，積極對日偽開展敵后游擊戰爭，不僅沉重打擊了華北日偽的統治，也使根據地迅速擴大。不久，晉察冀抗日根據地就包括了華北同蒲路以東，津浦路以西，正太、石德路以北，張家口、承德以南的各地區。晉察冀邊區軍民迫切需要建立統一的政權機關，來領導邊區的各項建設工作。

經過聶榮臻同犧盟會的宋劭文、胡仁奎及根據地各抗日團體領導人的多次協商，1938年1月10日，晉察冀邊區軍政民代表大會在阜平縣城第一完全小學開幕。出席會議的代表共149人，其中有國共兩黨的代表，有各抗日的正規軍（包括八路軍和堅持抗日的國民黨軍隊）和群眾武裝游擊隊、義勇軍的代表，有各抗日階層119個群眾團體的代表，有晉察冀三省邊界39個縣的政府代表，還有蒙、回、滿等少數民族的代表及五臺山的宗教界人士。全體代表以“抗日高于一切”為前提，在團結抗戰、實行民主的目標下，共商抗日救國大計。會議的主要議題是：建立邊區統一的政權以鞏固和擴大抗日根據地，以及財政問題和戰時經濟政策等。全體代表根據抗日民族統一戰線的方針和抗日救國十大綱領，對各項議題及提案進行了熱烈討論。

大會通過了堅持抗戰到最后勝利的《宣言》，指出：“為著創立與鞏固晉察冀抗日根據地，保持華北游擊戰爭；為著統一與整理晉察冀邊區內軍事、財政、經濟以及一切行政機構，保持持久的必然勝利；為著打擊漢奸政權，團結一切抗日力量，爭取徘徊歧途的動搖分子，晉察冀邊區有成立臨時政權的必要。邊區代表大會就是在這個意義上勝利開幕了。”“邊區臨時行政委員會，是以民族統一戰線的政權形式，包含著各黨、各派、各階層及各種民族分子。它的實際內容是貫徹抗日與真正民主。”

會議期間，通過了《政治問題決議案》《軍事問題決議案》《財政問題決議案》《經濟問題決議案》《文化教育決議案》《群眾運動決議案》《婦女問題決議案》。最后，大會以無記名投票的方法，選舉產生了晉察冀邊區臨時行政委員會。臨時行政委員會下設財政廳、民政廳、實業廳、教育廳。

1月15日大會結束，晉察冀邊區臨時行政委員會宣告成立。此后，邊委會下設的各辦事機構陸續建立、健全。隨后，邊委會很快出臺了各項法令、政策。

2月上旬，晉察冀邊區臨時行政委員會收到閻錫山轉來國民政府行政院1月30日正式批準成立邊區政府的電報。后來，國民政府行政院院長孔祥熙還派人到邊區進行聯絡。不久，根據閻錫山和國民政府的意見，晉察冀邊區臨時行政委員會取消了“臨時”的名稱，并將邊區政府各廳改為處。