国共合作后，彭德怀率八路军奔赴山西抗日前线，首战平型关。组织百团大战，历时三个月，大震军威，举国振奋。百团大战后，彭德怀和敌后军民投入了更紧张、残酷的反“扫荡”斗争。
卢沟桥事变后，国共合作的抗日民族统一战线最终得以建立。8月25日，中共中央军委宣布，根据国共谈判协议，红军改编为国民革命军第八路军，朱德任总指挥，彭德怀任副总指挥。9月12日，八路军改称十八集团军（后仍沿称八路军），朱德任总司令，彭德怀任副总司令。下辖-一五、一二○、一二九三个师共4.5万余人。红军改编后即誓师出发，开赴山西抗日前线，加人第二战区（晋绥）战斗序列。从此，开始了八路军在华北的浴血战斗。
时日寇正沿平绥、平汉、津浦铁路大肆人侵，扬言“三个月内灭亡中国”，其主力一路直取山西。阎锡山之六十一军不战而弃天镇，日军陷大同，趋长城，山西危殆。晋北前线溃兵丢弃武器，抢劫民财，守土官吏席卷而逃。民众悲愤流离，路谈巷议皆盼红军参战。在前方军分会太原会议上，彭德怀曾坚决主张红军出师要先打胜仗，振扬军威，打击恐日病。9月24日，八路军一一五师主力进至平型关一带设伏，于25日，歼敌之精锐坂垣师团1000余人于平型关外，创抗战以来的首次捷战，全国振奋。
日军受阻于平型关，改由雁门关突破长城，国民党军集8万兵力与日寇会战于太原以北之忻口。朱德、彭德怀指挥八路军各部，在敌之侧翼积极配合，并派遣支队远出察南和冀西，在敌后广泛出击，断敌交通。10月18日，一二○师于雁门关歼敌一个辎重大队，毁汽车230辆；19日，一二九师夜袭阳明堡机场，摧毁敌人飞机24架。在八路军英勇作战的鼓舞和支持下，忻口国民党军奋勇抵抗28天，山西战局出现有利局面，抗日民族统一战线也有了良好的开展。
敌人在忻口受挫，改由平汉路、正太路迂回，11月8日，陷太原，国民党大军纷纷南逃，山西战局大乱。朱、彭按毛泽东指示，指挥八路军进入敌后，展开兵力于管涔山、五台山、恒山及太行山区，并挺进冀南、冀东、平西。在平汉、正太、同蒲沿线发动群众，开展游击战争，与华北地方党结合，建立基层抗日政权，收拾崩溃之社会局面。-一五师政委聂荣臻奉中央及总部令，以两千兵力留五台，建立了第一个敌后抗日根据地。短短两个多月，八路军军威远扬，人民争附，在敌后开辟了抗日战场。
1938年3月，日寇攻占临汾，陷风陵渡，隔河窥潼关。至此，国民党在山西战场的30万军队大部分退至汾河以西和黄河以南。朱德、彭德怀指挥二战区之东路军（辖八路军之-一五师一部、一二九师、山西新军决死队，以及国民党的中央军和地方军的10个师）进入晋东南太行山区，建立抗日支点。
4月，日寇以3万余兵力、分9路大举围攻晋东南，朱、彭以八路军一部和友军阻击分进之敌，而以八路军一二九师主力及一五师一部，于武乡、榆次间寻歼敌之主力。4月16日，在刘伯承指挥下，于武乡县之长乐村歼敌2000余人，其他各路敌人纷纷退出。我军乘胜追击，收复晋东南18个县。全役歼敌4000余人，为开辟晋冀豫抗日根据地奠定了基础。此后，十八集团军总部即驻于晋东南，以太行山为依托，指挥华北敌后抗战，直至日本投降。
反九路围攻胜利以后，彭德怀协助朱德，以全部精力来发动和指挥敌后的游击战争和创建抗日根据地。这个时期，敌人在华北主要是巩固其对大城市和主要交通线的占领。针对这个情况，集总部署八路军各部展开了有计划的大规模的交通战。同时，八路军挺进敌后，不断粉碎敌人的“扫荡”，在光复的国土上，建立抗日民主政府，安抚流亡，廉洁政治，实行二五减租，废除苛捐杂税，与人民建立了血肉联系。1938年10月，在华北敌后的晋西北、晋察冀、晋冀豫三大抗日根据地基本形成，一一五师主力又开赴山东和当地抗日武装结合开辟了山东根据地。八路军“活动区域东临渤海、黄海，北达冀东长城口外，南至陇海路，西襟黄河”，在抗日民主政府确实管辖下的人民，为数达千万以上。
1938年10月武汉失守，日寇停止了向正面战场的进攻，年底，即从华中抽回五个师团“扫荡”华北。从此，敌后战场成为抗日战争的另一个广阔战场，八路军在敌后经常抗击着2/5以上的侵华日军。
八路军在敌后的发展引起了国民党顽固派的忌恨和攻击。1939年，日寇停止了对正面战场的进攻以后，国民党大量派遣军队北上，向抗日根据地“收复失地”，和八路军搞武装“磨擦”，到处绑架、残杀抗日军民，制造了一系列骇人听闻的惨案。
为团结抗日，1939年中，彭德怀奉中央命令先后赴西安、重庆、冀南、陕西宜川等地，与国民党当局蒋介石、阎锡山、鹿钟麟等人会谈，但国民党当局顽固地坚持反共方针。12月，阎锡山乘彭德怀在宜川与其谈判之机，发动事变，调动大军进攻决死队、牺盟会，妄图颠覆晋西北、晋东南的抗日民主政权。彭德怀返总部途经晋东南，正值事变高潮，形势十分混乱。他当机立断，根据毛泽东可在自卫条件下实行反击的指示，即于途中部署反击，并调聂荣臻率两个旅南下太行，准备对付国民党顽固派更严重的进攻。
果然，国民党中央军朱怀冰等部开始进攻八路军太行区根据地，阎锡山军袭扰晋中地区的八路军和决死队，日寇也自北而南向太行区进行“扫荡”，对太行抗日根据地形成虎狼夹击之势。为此，朱德、彭德怀和刘伯承又多次与朱怀冰、鹿钟麟会谈。国民党当局悍然不顾民族危亡，竟下令要八路军撤退到白（圭）晋（城）路以东、邯（郸）长（治）大道以北，在忍无可忍的情况下，朱、彭乃决予反击。在集总的统一部署下，一二九师与晋察冀的两个旅先后击溃阎锡山军及秘密勾结日寇的石友三军，逐鹿钟麟出河北。1940年3月，在豫北之林县、涉县、武安（涉县、武安现为河北省属)、冀南之磁县，合歼反共最猖狂的朱怀冰军两个师及反共杂牌军万余人，取得了反“磨擦“斗争的胜利，粉碎了国民党发动的第一次反共高潮，稳定了太行及冀南的形势。
反磨擦战役取得胜利后，面对华北日军以“铁路为柱、公路为链、据点为锁”，封锁、切割和蚕食抗日根据地的形势，朱德、彭德怀决定在太行区和晋察冀区合两区之力对正太路进行一次大破袭，打破敌人对抗日根据地构筑的“囚笼”。
经过近两个月的侦察和酝酿，一个出奇制胜的战役设想，在彭德怀和左权的缜密运筹下形成，得到了刘伯承、邓小平的赞同。
7月22日，彭德怀签署发布了朱、彭、左给聂（荣臻）、刘（伯承)、邓（小平）、贺（龙）、关（向应）并报中央军委的关于破袭正太路的战役预备命令。8月8日，发出了破袭正太路的战役预备命令。命令要求聂集团以10个团破袭平定东至石家庄段正太线，刘、邓集团以主力8个团（另决死队以两个主力团参加）破袭平定至榆次段正太线，贺、关集团以4至6个团破袭同蒲线北段。同时，要求三个集团均以一部兵力对北宁、津浦、德石、沧石、白晋铁路及各主要公路进行宽正面的破袭，相应克复若干据点，限于8月20日开始战斗。后来，投入这次战役的部队达到105个团之多，遂被称为百团大战。
8月20日夜，在华北广大战场上，八路军、决死队和根据地民兵在敌人毫无觉察的情况下，利用青纱帐掩护，绕过密布的堡垒群，向以正太路为主的敌人交通网发起攻击。一夜之间，正太路上的车站、桥梁、水塔大部被炸毁，枕木、铁轨被搬走或架起来焚烧，据点被拔掉，驻守正太路的日军被打得晕头转向，彼此失去了联系。
百团大战第一阶段奇袭式的破击战，取得了巨大的成功。连结平汉、同蒲路的交通动脉正太路和正太路东端的重要煤矿井陉矿，受到严重的破坏。北宁、同蒲、沧石、德石等路亦被截断。蛛网般的公路、路基、路面被挖得千疮百孔。敌人苦心构筑的“囚笼”，一时间被砸得支离破碎。
百团大战的第二阶段，进行了晋察冀之涞（源）、灵（丘）战役，晋东南之辽（县）、榆（社）战役，晋西北之同蒲路宁武南北段破击战役，冀中之任（丘）、河（间）、大（城）、肃（宁）战役，及冀南之德石路破击战役等，拔除了深人各区的千余个据点，一二九师攻克了榆社、辽县二城。
10月，日军从华中抽回两个师团增援华北，对抗日根据地进行“报复扫荡”，百团大战转人第三阶段的反“扫荡”作战。10月下旬，敌岗崎大队窜入太行区腹地反复烧杀，又犯我兵工厂。10月30日，彭德怀亲自指挥一二九师、总部特务团和决死队各一部，包围该敌于武乡县关家垴高地，歼敌500余人。关家垴战斗我以劣势装备攻坚，本身也遭受较大伤亡。但此后近两年中，敌亦不敢以一个大队为一路，深人我腹地“扫荡”。
百团大战给日本侵略者以“极大打击”，日军在“进行深刻反省”后，提出“在1941年要彻底进行正式的剿共治安战”，从华中再次抽调两个师团到华北。7月，日本大本营以号称日本“三杰”之一的冈村宁次（大将）为华北方面军司令官。冈村大力推行所谓“治安强化运动”，在其占领区实行清乡，配合保甲连坐；对敌我争夺的地区并村编乡，大搞自首，实现伪化；对我根据地则加紧“扫荡”、封锁、切割、蚕食，实行军事、政治、经济、文化、特务活动相结合的“总力战”。在敌人一整套狡猾毒辣的新阴谋下，1941年我华北敌后根据地再度缩小1/6。
百团大战中，彭德怀在距敌人只有500米的武乡关家垴前线哨所。1941年11月，在敌人大举“扫荡”太行山区时，彭德怀在离敌30里处召开北方局会议，提出了粉碎敌人“治安强化”阴谋的方案，强调大力开展敌占区、接敌区群众的工作与瓦解伪军、伪组织的工作。他指出，在被敌人蚕食的地区，建立秘密的游击小组，坚持隐蔽斗争，是可能的。这一号召在实践中发展为派遣武装工作队深入敌后，实行“敌进我进”的方针。彭德怀亲自研究制定了武工队的人员组织、任务要求、斗争方式、政策纪律方案；北方局、军分会并发出指示，要求以地区一级及强的县级干部担任武工队长。武工队在被敌人蚕食及占领的区域，重新点燃了游击战争的燎原烈火；配合对伪军伪组织实行的两面政策（表面应付敌人，实际为抗日工作)和在敌占区实行合法斗争与非法斗争的结合，在敌后建立起许多小型的隐蔽的抗日政权，使根据地在敌人的严密封锁线后发展起来。敌人重新构筑起的“囚笼”——数万里的封锁沟，密如蛛网星点的交通线、碉堡群，再次被我砸碎。到处都是八路军的活动地区，到处都是敌人的前线。
敌后的斗争是越来越尖锐了，敌人的“扫荡”规模动辄万人、多时达五六万人，而且战术翻新，什么铁壁合围、梳篦清剿、反转电击、纵横抉剔，烧杀抢掠也越来越残酷，声言要消灭八路军的生存条件。但彭德怀紧紧掌握住敌人在战略上的两个根本弱点，坚定地号召敌后军民咬紧牙关渡过困难。一是，敌人兵力不足，顾此失彼，捉襟见肘，常常顾了前方则后方空虚，对根据地只能集中兵力进攻一区，而我则可在一个区进行反“扫荡”作战时，由其他各区配合出击，袭扰敌人后方，使敌人不敢久事“扫荡”，形成此起彼落的形势。一是，敌人愈残酷，愈加激起民众的仇恨，敌人进人根据地后，处处遭到打击。1941年后，在频繁的反“扫荡”作战中，八路军减员至30万人，但在彭德怀关于加强军区工作的指示下，到1941年底，地方部队、民兵都增加了近一倍。蒋介石停发武器，朱、彭就发出大造地雷的训令。彭德怀、左权还亲自指导集总兵工厂制成掷弹筒，生产大批炮弹、地雷、手榴弹。群众性的地雷战、麻雀战遍地开花，配合主力军打退敌人一次又一次的“扫荡”。
1941年到1942年，八路军各部经过万余次战斗，配合政治的、经济的多方面的斗争，粉碎了敌人的5次“治安强化运动”。1941年12月，日本帝国主义发动太平洋战争，为把华北变成它的大东亚战争“兵站基地”，以其侵华总兵力的60%集中于我抗日根据地周围。在它用尽种种手段也不能消灭共产党、八路军的时候，得出结论说：“破坏共产党组织……中枢机关为至要”，应“加以包围奇袭而努力尽皆逮捕其主要人物。”于是，敌人把“扫荡”重点放在“捕捉奇袭”我首脑机关上，一再奔袭八路军总部。
1942年5月是敌后斗争最危急的一段日子，敌以两万余兵力“扫荡”太行，奔袭合围八路军指挥机关。八路军总部转移至辽县之南艾铺地方，被敌人的飞机发现。5月24日，彭德怀、左权决定分路突围。彭德怀率总部战斗人员从敌人火力封锁网中突围而出，左权在指挥突围中不幸英勇殉国。突围中，总部及北方局重要干部牺牲多人，总部电台遭破坏，这是抗战中八路军指挥机关遭受的最大一次损失。
1943年春是敌后最艰苦的时刻。日寇抢粮毁苗，加上两年大旱，华北普遍发生饥馑，党政军均投入了生产救灾工作。在敌人的军事进攻面前，彭德怀从来镇定从容，但群众饭锅里掺拌的野菜，从敌战区和国民党区拥进根据地的灾民的哀啼，却使他忧心如焚。4月，彭德怀下令各村公所设立粥场赈济来往灾民，令总部直属队及北方局干部每人每日节粮2两到4两，救济受灾同胞，而他自己和总部、北方局全体人员则采集野菜混食充饥。他还与总部技术人员制成湖南式水车，帮助群众车水抗旱，带领总部及北方局人员为群众修堤挖塘，千方百计渡过严重的灾荒。1943年夏，敌人终于力拙技穷，而我在敌后各方面的工作则更加深人，根据地重新走向恢复和发展。
