上海等地的各种报刊竟相报道，就连国民党中央政府也给新四军军长叶挺发来嘉奖电，称赞其“所属粟部，袭击韦岗，斩获颇多，殊堪嘉尚”云云。
韦岗伏击战获胜后，粟裕率领新四军第二支队广泛开展统一战线工作，着手创建以茅山为中心的苏南抗日根据地。
在新四军第二支队时的粟裕。1939年初，日军在茅山根据地周围增设据点，企图对我根据地实行封锁，进行更大规模的“扫荡”。为了打破敌人的企图，活动在金坛、芜湖周围地区的第一、第二支队，主动向敌出击，进行了一系列战斗。其中打得最漂亮的一仗当数粟裕亲自指挥的奇袭官陡门之战。
官陡门镇在日军战略基点芜湖市东北面15华里处，紧靠飞机场附近，位置十分重要，且设防严密。
300余伪军据守着官陡门，新四军准备出奇制胜。侦察好了敌情和地形之后，为了打破敌人的分割、封锁和分区“扫荡”，争取主动的局面，更为了鼓励敌后广大人民，坚持江南抗战，粟裕决心亲自率领部队，袭击官陡门的敌人。
1939年1月7日、8日开始，粟裕一方面在参战部队里进行了战斗动员，一方面带领部队进行了几天的夜日白刃战、河川战和街市战的训练，战士们的情绪非常高昂。
19日午夜12时，部队神不知鬼不觉地到达了预定的隐蔽集结地。这里离官陡门只有40公里，为了不走漏消息，必须在夜里出发赶到官陡门。
当晚8点钟，部队到达亭头镇。粟裕命令部分队伍从南北两面向青山和黄池的两个敌据点逼进，以掩护突击部队的安全，其余部队继续搜索前进。
凌晨4点钟左右，部队终于赶到了距离官陡门约两公里的地方，大家开始分头行动，粟裕率主力过道桥从西面芜湖方向悄然进逼。快到据点时，派出突击队员神不知鬼不觉地摸上前去，粟裕一声令下，队员们一齐开火，顿时枪炮声大作，火光照亮了夜空，敌人被打了个措手不及，死伤无数。此时东岸部队也冲破了敌人的铁丝网，配合西岸战士形成了对敌东西夹攻之势。一阵密集的枪声和手榴弹声响过之后，敌人已差不多被消灭，整个杀敌过程只用了8分钟。但战士们还来不及清点胜利果实，敌机就来了。粟裕命令大家火速返回，同时注意隐蔽。匆匆赶来的敌机在队伍上空盘旋了几圈，什么也没发现。
奇袭官陡门，狠狠打击了日军的嚣张气焰，使粟裕威名大扬，江南人民称赞粟裕及其部队为“天兵天将”。
1939年11月，新四军成立江南指挥部，陈毅、粟裕任正、副指挥，他们在坚持江南抗战、完成东进淞沪任务的同时，先后派出挺进纵队和苏皖支队北渡长江，在扬州、天长、六合、泰州地区开展游击战争，造成新四军足跨长江两岸，随时可向苏北发展的有利态势。
1940年7月，为贯彻中共中央指示的开辟苏北、发展华中的战略任务，粟裕奉命率新四军江南指挥部及其所属主力渡过运河，越过沪宁线，顺利到达长江北岸的塘头地区。
1940年7月底陈毅(骑马者前)与粟裕(骑马者后)率部向黄桥开进。7月下旬，进入江北的新四军江南指挥部改称新四军苏北指挥部，陈毅、粟裕仍然担任正副指挥。为了打开苏北的抗战局面，粟裕和陈毅分析了苏北地区敌、我、友三方的情况，作出了东进黄桥，开辟以黄桥为中心的抗日根据地的重大决定。经过一系列与日伪军的战斗，1940年8月，以黄桥为中心的根据地已初具规模。
正当我军展开对敌作战时，国民党江苏省主席韩德勤却调集重兵，准备南犯，企图趁我军立足未稳之际予以消灭。陈毅、粟裕对其进行诱敌深入，进行分割围歼，首战告捷，随后又在姜堰重创张少华部。为团结抗日，陈粟所部同意韩德勤的无理要求，退出姜堰。
可是蒋介石并未就此罢休，他命令安徽李品仙的军队从速东开，配合韩德勤行动，命令江南冷欣部积极予以策应。
韩德勤虽在姜堰挨了点教训，但元气未伤，再次动员总兵力3万余人，从各个方向奔着黄桥杀气腾腾地一路攻来。
山雨欲来，黑云压城。作为指挥员，粟裕清醒地意识到，即将来临的争夺黄桥之战，将是新四军在苏北进行的一场前所未有的大战和恶战。黄桥地处靖江、如皋、海安、泰兴、泰县的中心，北面是通扬河，南面是长江，西面有一条从泰州到口岸的运河，周围有不少日军的据点，如果以黄桥为中心建立根据地，向南可控制南通、海门、如皋、启东等地，进而与江南我军相呼应，控制长江通道，对日军造成严重威胁，同时还可切断大江南北国民党顽固派的联系。如果失掉黄桥，新四军就没有回旋的余地了，而且对民心、士气必将产生极为不利的影响。因此，这一仗必须打，而且一定要打好。
顽军重兵压境，决战迫在眉睫。粟裕和陈毅从姜堰返回黄桥后，立即召开各纵队首长会议，研究了作战部署。权衡再三，决定采取以黄桥为中心，诱敌深入，最后各个击破的作战方案。在首战对象的选择上，粟裕也作了一个突破常规的决定，就是“先打强敌”——翁达的第六旅。
根据这个情况，粟裕决定以1/4的兵力守卫黄桥，以3/4的兵力作为突击力量。只用一千多人守黄桥，这实是一着险棋，意味着担任突击的队伍一定要打得稳，打得狠。
大家统一了认识后，决策很快制定出来，决定由陶勇率第三纵队坚守黄桥；由叶飞、王必成分别率第一、第二纵队隐蔽集结于黄桥西北的顾高庄、横巷桥一带，待机出击。陈毅的指挥部设在严徐庄，粟裕的前线指挥部设在黄桥，实施战场指挥。
10月1日，各路顽军齐头并进。3日下午，顽军独立旅的前锋距黄桥只有五六里了。为了判明情况，粟裕走出隐蔽部，登上高处，用望远镜向北面仔细地观察着。他发现敌军采取一路纵队形式前进，估计全部队伍会有四五公里长，足有三千多人，而且已完全进入我伏击区内，形势对我有利，粟裕心里酝酿出了一个“黄鼠狼吃蛇”的办法。
他命令第一纵队实行四路突击，猛插敌阵，将顽军独立第六旅拦腰斩成几段，首先打击其旅部和后卫团，迫其先头团回援，然后以一部兵力从侧翼迂回到其后方，将其包围。经过3个小时的激战，全歼顽军独立第六旅，中将旅长翁达自杀。
翁达旅被歼灭后，粟裕把指挥的重心放在了黄桥城下及其以东地区。
果不出所料，顽军为了扭转不利的局面，开始发起了新的总攻，以猛烈的炮火掩护部队向东门攻击，守备部队的防御工事大部被摧毁，情况异常紧张。第三纵队司令员陶勇和参谋长张震东把上衣一脱，挥动马刀，带领部队反击，硬是把突进来的顽军第三十三师一部杀了出去。第一、二纵队两路夹击，将三十三师和三四九旅全部分割包围于黄桥以东地区。正当围歼战激烈进行的时候，陶勇又从守备部队中抽出力量，从黄桥的东门及其两侧地区杀了出去，配合第二纵队聚歼顽军第三十三师主力于小二房庄。敌师长孙启人、旅长苗瑞林等被活捉。
歼灭了三十三师以后，粟裕指挥部队全力围攻进至野屋基村附近的第八十九军军部及第三四九旅。经过一昼夜的激战，到6日凌晨，敌第八十九军军部已被彻底歼灭，军长李守维妄图渡河逃窜，被淹死在河中。
黄桥战役，新四军大获全胜，歼敌计1.1万余人，敌军主力全军覆没，韩德勤率千余残部败逃兴化，从此一蹶不振，永远从苏北的政治舞台上消失了。黄桥大捷是新四军战史上的空前胜利，毛泽东将其与百团大战一起称作抗日战争进入相持阶段的转折性标志。任新四军第一师师长、苏中军区司令员时的粟裕。
