八路军的领导人知道，他们迟早是要转移到别处的。他们也知道，五台山和晋东北的整个地区具有重要的军事价值。在战略上，它们控制着周围的平原。如果日本人夺取这个地区并保持下来，他们就可以比较容易地巩固他们对山西和河北的控制。反过来说，如果这些山区掌握在中国人的手里，它们就可以作为根据地，供游击队进行广泛的活动，并最终发动大规模攻势，把日本人赶出华北。
考虑到这些情况，政治部决定在这里建立一个巩固的抗日根据地。他们没有建造马其诺防线，不是因为他们不想建造，而是因为中国太穷了，没有东西去建造。他们没有部署大炮，因为他们没有这玩艺儿。“用我们的血肉筑成我们新的长城”，就像《义勇军进行曲》中唱的。这是对的。在革命斗争中，不可摧毁的堡垒是可以依靠人民的力量建造起来的。在有经验的老资格组织家聂荣臻的领导下，军队的政工人员开始建造这样的“长城”了。
第一步，他们改组了县政府。当战争在1937年9月打到晋东北时，许多县长都逃跑了。另一些县长，年纪太大，没有效率，不适应战地工作。他们都被新的、进步的人士取代了。但是，有一些县长，如五台山县长孙晓文，则是积极抗日的。他们保留原职，后来成为边区政府中的重要人物。当边区政府建立时，国民党人士孙晓文当选为主席。
可以留用的人员都被派到群众中做宣传鼓动工作。这是十分艰难的工作。晋北人民可能是华北最落后、受压迫最厉害的。他们在不毛之地上勉强维持生计，还不得不把他们收割的一点点粮食大部分交给封建地主和高利贷者。他们受尽压迫、没精打采、充满怀疑。当政工人员召集他们开会，鼓励他们吐苦水，提出自己的要求时，他们颤抖地站起来，在讲话以前先问道：“如果我们讲错话，是不是要受惩罚或罚款？”他们对穿制服的人总是敬畏地称作“先生”或“老爷”。无情压迫的气氛是如此令人窒息，它扼杀了以前来这个地方的任何可能的改革者的主动精神。政工人员在一个村庄发现一个地主的儿子，他1935年曾经积极地参加了北平学生的抗日大示威。他们想请他当宣传员。但是，在家待的两年已经毁了他，他像一潭死水一样消沉了。
工作、工作、再工作。组织者们逐村召开会议，发表演说，劝说、动员农民，鼓励他们站起来，说出自己心里的话。新的县长们也不是坐在自己舒适的办公室里，而是走到群众中去，做宣传、组织工作。
一个汉奸被抓住了。他被带到各处游街示众，讲他干的坏事，然后举行公开审判。这样一来，农民就懂得了奸细一词的含义和汉奸的危险性。人民群众参加了审判。他们开始注意周围的情况，发现了许多被敌人派来在他们中间挑拨离间的特务。
散兵游勇和逃兵大量涌入这个地区。组织人员把他们召集在一起，开导他们，问道：“如果你们继续游荡，靠抢东西维持生活，不去打敌人，你们将落得怎样的下场？”这些人都参加了这些会议，他们对军人的义务有了新的看法，感到对不起人民。接着，这些散兵游勇组成了新的部队。
新的县长被选举出来了。人民第一次有权决定管理他们事务的领导人。他们开始懂得了民主的含义，今后他们的公共事务要由自己来安排。他们思考着，担心着，认识到这种新权利的重要性，最后极其认真地投了一票。
人民群众害怕日本人来了，会产生什么后果。必须向他们说明，日本人并不那么厉害，他们是可能被打败的。早在平型关战役时，八路军就把武器发给农民，他们帮助军队打了个大胜仗。一小批战士把日本人赶出繁峙，带回了许多战利品。一些勇敢的农民自愿参加了这次袭击，回来后向自己的同伴讲了前后经过。惧怕日本人的心理减少了。
组织村民是按下列步骤进行的。首先，政工人员调查居民的生活情况。接着，他们鼓励农民采取集体行动，要求减租减息。所有的地租减少了25%。晋东北流行着一种不公正的高利贷制度，借债利息一年翻一番，两年翻两番，以此类推，结果使得许多劳动人民终生成了债务的奴隶。即使每年还清了原来的债务，他们在奴隶的地位中仍然越陷越深。现在明文规定，年利不得超过10%。这简直是一场革命。执行这种新规定的办法也是革命化的。虽然减租减息的命令是由上级做出的，但这些命令的执行权不掌握在官员手中，而掌握在新诞生的农民组织手里。农民监督地主和高利贷者索取的地租和利息不得超出规定的标准，如果他们抗拒，农会将使他们就范。政府第一次成为农民自己的政府，他们要求过美好生活的权利得到政府的大力支持。当时还没有进行土地革命，地主的财产受到保护，高利贷者可以保留其金钱。但是他们的巨大财富第一次使他们不能垄断权力。他们不再能够滥用自己的经济地位。农民一度是他们的受害者，而现在，正是农民起来监督他们奉公守法。
这样，八路军就用事实表明了它同人民站在一起。人民群众组织起来后甩掉了自己身上的负担，并深深体会到只有组织起来，才能做到这一点。只是在完成这些工作之后，八路军才要求人民群众组织起来，保卫国家。群众懂得，保卫国家，就是保卫自己的土地。在这里，他们终于有了自己的权利，第一次可以作为人、作为公民过一种体面的生活。他们纷纷涌向八路军新成立的军事组织，并带去自己的武器，这些武器是他们不久前在附近的许多战场上拣到、谨慎地保存在自己家里的。每个村庄都组织了自卫团，由25岁到45岁的男性公民组成。18岁至25岁的年轻人被训练为游击队员。同自卫团不一样，游击队可以调离家乡。最能干、最热情的游击队员可以自愿参加正规军。这是一个很大的荣誉，许多人争着去当正规军。
以前，县政府、村政府前的布告栏上总是张贴关于新税收的命令和失踪人员的通告，从来没有人读。但是现在，布告栏前经常围着许多人，有的亲自读着，有的听人群中识字的人读着布告栏上的内容，那里有关于如何改善自己生活的建议、军队作战的新闻和动员会议的通知。晋东北人民第一次说“我们的政府”、“我们的军队”和“我们的地区”了。
1937年10月底发生了一个巨大的变化。八路军在晋东北待了仅一个月后，就奉命南下保卫太原。它离开了，在五台山只留下聂荣臻和一些政工人员，整个地区只有一支人数不多的军事力量，其中包括一个步兵团和一个步兵营、一个辎重团和一个骑兵营。“这就是我们开展工作的资本，”当时在那里的一位中国报纸记者写道，“而我们的工作任务是巨大的，这就是在敌后创建一个永久性的大根据地。”
10月27日，在山西省中国最高指挥部的批准下，在五台山建立了晋察冀边区军区司令部，由聂荣臻任司令员。
12天以后，即11月8日，沿正太路南下的日军占领了山西省会太原。
新的分战区和其他中国军队之间的一切联系都被割断了。这个战区现在完全处在敌后。日本人宣布，他们要“扫荡”全省所有的游击队根据地。为此，他们整编了他们的部队。
八路军在这个地区只驻扎了一个月稍多一点的时间。在这个不长的时间里，他们完成了组织群众的巨大工作。人民把这支军队看作是不可战胜的力量支柱。现在，军队走了，群众只有依靠自己的力量了。日本人进攻的威胁像暴风雨前的乌云一样笼罩在地平线上。
这对聂荣臻和他的政工人员是一个严峻的挑战。他们不得不在空前困难的条件下组成一个机体，来抵抗日本人正在准备的打击。这个地区的群众惊慌起来。“我们没有军队，”他们说，“赤手空拳怎么行呢？”战区司令部回答说：“组织起来，自己保卫自己！”但是，谁来教给他们这样做呢？聂荣臻的政治部，工作人员少得可怜，而这项工作必须在数百个村庄进行。所以，留下来的每一个八路军战士都成为宣传员和组织者。上自司令员，下至赶毛驴的运输战士，都到村里去开展工作。他们的任务不是待在那里，一头扎进工作中去，不能让群众离不开他们。他们必须激发群众自己的主动性，使他们自己组织起来保卫自己。八路军的指战员们知道，如果他们能做到这一点，仗就可以打赢。当群众自己行动起来时，事情就好办了，他们有无穷的力量、主动精神和智慧，这是由上级建立的组织所不可能有的，因为由上面下命令建立的组织里，工作是由少数人做的，而真正的群众运动则把数十万群众的最大力量拧成一股绳。“只要相信人民群众，理解他们的需要，就没有办不成的事情。”八路军的战士说。
县里，整个行政机关都逃跑了，因此不得不临时建立新的机关，它与边区司令部同时发展起来。留下来的两位老县长孙晓文和吴运魁担负了领导工作。
电报电话局的职工也逃跑了，通讯工作已经中断。
汉奸和懦夫到处散布这样的话：“干嘛我们要被屠杀呢？如果我们投降日本人，我们可以像以前一样过日子。不错，我们现在过得是比往日好了，但是如果我们死去，那还有什么意义呢？”在五台山和定襄，有两个新成立的游击队就这样被瓦解了。这个倾向，使组织者们不得不与之斗争。
在这种情况下，边区司令部颁布了一个口号，决定了工作的性质。这个口号是：“加强和扩大晋察冀边区。”扩大？现在的战士连保卫已有的地盘都不够。“是的，要扩大，”政工人员对持怀疑态度的人说，“游击队像一条鱼，它需要很大的地盘来自由地活动，需要群众的海洋来维持自己的生存。”组织者深入河北的敌后。一到那里，就传来令人鼓舞的成果。那里的人民，不像山西那样，没有最黑暗的封建压迫的包袱。同时，那里有农民起义的传统。10年以前，在大革命时期，那里的农民运动就声势浩大。现在那里已经自发地组织了许多游击队。
在八路军离开晋东北一个月后，日本人发动了进攻。在卢沟桥事变以前，他们用8000人的部队就控制了整个华北。现在，他们为了对付新的边区，派了2万人。他们用骑兵、炮兵、飞机、坦克组成的强大纵队从八个方向包围边区。日本的强大攻势持续了两个月，最后以失败而告终，不得不撤退。当这次战役结束时，朱德在1938年1月底作了这样的分析：
“打了许多仗。虽然敌人取得了一些胜利，但这些地区的大部分城市和乡村仍然掌握在我们手里。在这次战役中，日本人至少死了3000人。我们的游击队缴获了大批军用物资和许多战地无线电台。我们的损失较小。那些见过日本人、目睹他们暴行的人民最坚决地进行抵抗……在所有的战斗中，我们勇敢的战士们在广大地区分散活动，坚持了斗争。他们成功地拖住了大批敌人，分散了他们的力量，使日本侵略军无法作为一个整体来作战。而在战斗中，我们则可以把许多游击队的活动联系起来。经过这次战役，这个地区的中国政府更加巩固了，群众对它的巨大信任进一步加强了。最后，这些战斗还证明，游击战不仅在山区，而且在平原地区也是可以打赢的。总之，一支军队只要懂得如何同人民合作，即使处于孤立无援的地位，也是消灭不了的。”
为什么能够做到这一点？《新华日报》的记者对边区作了很好的报道，从而说明了边区领导人和人民从日本的攻势中得出的结论：“我们上了一课。我们知道敌人是绝对不会放过我们的。如果我们不做好准备，我们就会被消灭。”
12月26日，在日本的攻势处于高潮的时候，分战区司令部召开了一次会议。它认为，这个地区将来的存亡，首先取决于武装保卫者人数的增加；其次取决于已经组织起来的军队的加强训练。1938年1月初，在战事初次平静的时候，所有的游击队都到冀西的阜平接受了训练。头年9月前后，第一次出现了八路军的飞虎队。他们组织了许多游击队，对平汉路沿线的敌人进行骚扰。现在，这些部队都被调集到一起。独立的游击队也到阜平进行改组和加强自己。对战士进行强化教育，以使他们懂得作战的目的和采用什么方法才能最有效地进行战斗。纪律也加强了。各地都建立了政治部。已经建立的政治部从八路军里吸收了一些有经验的组织者，从而进一步得到加强。还在边区的每个县都建立了军事部和锄奸部。当局下令，地方政府和所有军事单位的帐目都应当公开，随时接受战士和群众代表的审查。
会议是在这样的口号下进行的：不仅要巩固，而且要扩大边区。司令部认为，扩大边区，是很重要的。如果这个根据地扩大了，人民就会更加信任它。从军事上来说，一块大的地盘比弹丸之地更容易运用灵活机动的突袭战术来加以保卫。
边区司令部得到中央指挥部的授权，把敌后活动的抗日力量统一起来。
