在抗战爆发初期，被称为“山西王”的国民党第二战区司令长官阎锡山，原本与八路军没有磨擦。那时，日军大举深入山西腹地，举国上下团结抗日呼声高涨，在山西经营日久、身家性命俱受到严重威胁的阎锡山，与八路军虽不是真心团结，但却是真心合作抗日。当山西新军配合八路军在敌后创建抗日根据地，打击并箝制敌人，稳定了山西局势之后，阎锡山认为共产党的影响超过了范围，危及了自己的地位，便开始从合作抗日的立场上一步步倒退。1939年底国民党掀起第一次反共高潮时，阎锡山一马当先，悍然向共产党领导下的山西新军发动了突然袭击。迫于形势，山西新军奋起还击。经过一个多月的战斗，新军在八路军的配合下大获全胜，阎氏手中的旧晋军损失惨重，蓄谋已久的“十二月事变”被彻底粉碎。
军事上的惨败，使阎锡山逐渐意识到，倒退是没有出路的。在这种形势下，为使联合晋军团结抗日的关系不致破裂，毛泽东把“朝廷命官”萧劲光推到前沿，“罢兵而致礼”，作团结的工作。
1940年1月底，萧劲光致电阎锡山，表示愿意出面调解新军、旧军之间的冲突，使山西恢复团结抗日的局面。
2月20日，萧劲光再次致电阎锡山，申明去从利害：
三个月来，山西内部阋墙之争，中外惊疑敌拊掌。而演变所极，尤属痛心，盖我为鹬蚌，人为渔人。此渔人者不但有一日本帝国主义，更有一顽固势力。彼挟其地位以临吾人，企图挑拨我新、旧两军，取其两军而置其囊中，先取其一，使钧座陷于孤立，续取其二，使钧座陷于绝境。然后分之裂之，摧之折之，而晋绥军尽矣。设此企图而能实现，非单抗战不利，钧座不利，新军不利，即旧军同人亦绝无所利。为今之计，亟宜有钧座调和，新旧两军重新团结，一致抗日。两军虽一时以兵戎相见，然新军全属自卫，绝无成见。苟利抗日，无不服从钧座之指挥，想旧军同人亦必不固执己见，钧座一纸团结之令，则和协之局立现，抗日战线重整于三晋之间矣。一波知遇之恩，心所谓危，不敢不告。敬祈速决大计，俾有遵循，大局幸甚。
在函电发出后，2月25日，萧劲光和中共华北华中工委秘书长王若飞带着毛泽东的亲笔信，到宜川秋林镇与阎锡山进行谈判。
萧劲光、王若飞到了秋林镇，阎锡山不肯露面，却派了一伙不三不四的人到他们居处纠缠。先来的一位自称“阎长官的副官”说，阎长官身体不适，一时无法见面，“二位代表有何见教，愿为转达”。萧劲光坚定表示“有要事，必须面见阎长官”，那人遂无奈离去。接着，几个自称“记者”的人闯进来，要求采访“八路军留守处的代表”。一个据说是《中央日报》社记者的瘦子抢先发问：你们八路军一再宣称是抗日的队伍，为什么进攻阎长官的防区？现在你们边区各地磨擦事件不断，症结在哪里？富有谈判经验的王若飞，以最简洁的语言话回敬了他的挑衅：所谓进攻阎长官防区，无非是讲前不久发生的“晋西事变”。这到底是怎么回事，你们应该去问阎长官，他会比我们清楚；至于说到边区内的磨擦，问题很清楚：边区23县是国民政府划定由边区政府管辖的区域，没有其他部队进入，还会有磨擦吗？同来的几个人接连提了几个问题，也被萧劲光、王若飞一一把“球”踢回，使其无言答对。一连两天，不管什么人来，萧劲光他们只有一句话：希望面见阎长官。后来的事实证明，这些人是阎锡山派来摸底的。第三天，阎锡山在秋林镇临时指挥所里接待了萧劲光和王若飞。
至时，阎锡山手中实力部队已所剩无几，初次见面不免有些尴尬。萧、王仍非常客气，以礼相待。萧劲光首先转达了毛泽东的问候和要求转达的话。萧劲光说，我们共产党是真心实意要同国民党合作抗日的，你们为什么同室操戈，制造磨擦？你们杀人略地，打自己人，只有日本人高兴。抗战初期，阎长官同我们合作得不错。为什么现在却跟着蒋介石的指挥棒转，把枪口对着八路军呢？阎锡山无言以对，王若飞趁势递上了毛泽东的亲笔信。毛泽东信中在阐明团结抗战的意义，表示愿意罢兵息革、一如既往的态度后，明确提出了“人不犯我，我不犯人，人若犯我，我必犯人”的原则。阎看后直摇头，说：这最后一句是否太硬了，是不是可以改为“我必自卫”？萧劲光断然拒绝：信是毛主席写的，怎么改？关键不在怎么说，而是要看怎么做。没有人搞磨擦，无须“自卫”，更谈不上“犯人”！
接着，萧劲光、王若飞相继发言，具体阐述了中共中央关于新旧军团结拥阎抗日的主张，建议：双方停止军事行动和敌对宣传；新军仍属晋绥军序列，不接受蒋介石方面的改编；实行阎锡山提出的《民族革命十大纲领》，统一于进步；恢复电台联络和人员往来。这时阎锡山已无路可走，当即表示接受中共的主张。随后，双方达成了不再进攻八路军防地和陕甘宁边区的协定，并同意双方派代表具体协商划分防区和兵力协同等联合抗日的一应细节问题。
回到延安，萧劲光与王若飞一起向毛泽东汇报了谈判经过。讲到萧劲光拒绝阎锡山修改“我必犯人”的要求时，毛泽东满意地说：“好，坚持得对，就是要‘人若犯我，我必犯人’，一个字也不能改。”
经过具体谈判，最后决定以汾阳经离石至军渡的公路为分界线，晋西南为晋绥军的活动区，晋西北为八路军和新军的活动区。自此后几年里，阎锡山的反共活动收敛了不少。在蒋介石掀起的第二次、第三次反共高潮中，阎再没有轻举妄动，基本上保持了“中间立场”。
对于国民党阵营中能够以抗日大局为重的中间势力，萧劲光按照毛泽东“要采取团结、争取政策”的指示精神，努力做团结的工作。国民党政府晋陕绥边区总司令邓宝珊，驻守在陕甘宁边区北大门榆林地区。邓是甘肃天水人，辛亥革命时期的同盟会会员，思想进步，政治开明。早年，他与共产党创始人李大钊交往甚厚，和八路军驻兰州办事处的人员关系也不错。抗战爆发后，他把女儿邓友梅送到延安抗大学习。萧劲光对邓宝珊非常尊重。他时常借助邓友梅探亲的机会，传递讯息，与邓部沟通情况，密切双方的关系。1939年4月，获悉邓宝珊由某集团军副总司令改任晋陕绥边区总司令，当即给他拍发电报，表示祝贺。电文开头郑重写道：“兹值敌寇亟图西犯之际，晋陕绥边区，实为西北门户。将军能一韬虎略，声威早著。今公坐镇三疆，敌胆定寒。展宏献而建奇勋，逐胡马而奔汉北，可预期也。”借以表达对他的敬意和期望。
同年5月，邓宝珊路过延安，住在城南关一家骡马店里。萧劲光闻讯立即把他请到交际处，并请毛泽东出面，摆酒席招待。当晚，留守兵团和边区政府联合举行了欢迎晚会。演出前，邓宝珊热诚地发表了讲话。他说：“我民族之前途有二：一存，一亡。欲存则全体应加强团结，因为只有团结，才是抗战胜利的基础。要团结则大家都要说实话，彼此有不好的地方，要坦白的进行批评，要尽量设法消灭一切不必要的磨擦，这才是加强抗战力量的办法！”翌日，萧劲光陪他在延安各处参观。当看到一堆大得出奇的南瓜时，邓宝珊兴奋地对萧劲光说：“还是毛主席领导的好啊！连边区的南瓜都比别处长得大。”
此后，邓宝珊前往重庆、西安等地开会，每次经过延安，萧劲光都到下榻处看望，并陪他与毛泽东会晤，一起吃饭、交谈。由于与邓宝珊保持了较密切的关系，双方都注意从抗日大局出发，团结对敌，遇事协商，陕甘宁边区北部磨擦明显减少。有时双方部队基层官兵发生纠纷，邓部个别反动军官寻衅闹事，萧劲光也本着互谅互让的精神，与其洽商，妥善解决。
在整个抗日战争期间，由于延安、陕甘宁边区是中共中央所在地，八路军的总后方，所以这里被全国人民视为心目中的“圣地”。也正因此，反共顽固派把这里看作心腹之患，又恨又怕。他们三次掀起反共高潮，每次都把矛头指向陕甘宁边区。至于大大小小的磨擦事件，几乎一天也没有中断。据有关资料记载，从1938底年到1944年春，国民党顽固派在陕甘宁边区，武装进攻275次，抢劫骚扰457次，暗杀、诱逃、拘捕边区党政人员295人次。由于萧劲光遵照党中央、毛泽东制定的“有理、有利、有节”的方针，巧妙应付、妥善处理，有效地团结争取了中间力量，孤立打击了顽固投降势力，使陕甘宁边区虽深陷国民党顽固派数十万大军的重重包围之中，却稳如泰山，生产、学习秩序井然，成了全国各抗日根据地维护抗日民族统一战线，坚持进步、坚持抗战的模范，名副其实的全国抗战的大本营。
