11月14日晚，我华东野战军首长召集第4、第6、第8、第9、第13等5个纵队和特纵的主要领导在一起开紧急作战会议，研究敌情，决定6个纵队统一由山东兵团的政委谭震林和副司令员王建安统一指挥，以9纵在南，6纵在西南，13纵在西北，4纵在北，8纵在东，从四面向黄百韬兵团发动进攻。同时，华东野战军又调集了火力最强的特纵，分置四面，有力配合攻坚部队发动攻势。
各纵队在做好了充分的攻击准备后，于15日夜开始向黄百韬兵团发起进攻。经过三天的激战，以9纵为首，从西面和南面加强了对敌100军和44军的攻击，并将这两个军的大部歼灭。8纵除以一部分兵力监视碾庄圩以东一带的敌人以外，主力分别由火烧房子西北、大院上西南向碾庄圩等处守敌进逼。纵队组织了炮兵群，压制、摧毁了敌人的地堡工事。在凌厉的军事攻势中，同时开展了强大的政治攻势。震颤人心的喊话声和震天动地的枪炮声交汇在一起，使得敌人胆战心惊。
面对救兵无望的情况，黄百韬把他的全部将领召集起来进行战前鼓动，这些将领一个个像输红了眼的赌徒。
11月19日晚，我军对碾庄圩守敌黄百韬兵团部、25军军部及其直属战斗部队发起总攻。
按照计划，8纵和9纵从东南和正南方向担任主攻；
4纵由北面进攻；6纵在特纵6辆坦克配合下，从西面攻击。
碾庄圩，这个坐落在淮海平原上不足200户人家的村庄，由于淮海决战而闻名中外。经过黄百韬的苦心经营，它有着两道水壕和围墙，内外围子之间有近百米的开阔地和几所院落。水壕宽窄不等，从十几米到二十几米，水深一米以上。除围子外面有永久防御体系外，敌人在两道围子之间，也利用网状地堡群，组成严密火网。
总攻开始后，8纵以23师先锋团67团的一个连为突击队，和9纵的“济南第1团”并肩作战，直插黄百韬兵团的心脏。这两个主攻团相互通报情况，团结协调，紧密配合。两个指挥所架设了电话，电话线若被敌炮火打断了，就互派参谋人员联系。
在步兵冲击之前，8纵一声令下，集中57门大炮，分4个炮群，向敌阵地猛轰。霎那间，炮声震天，无数条火龙划破了夜空，飞向碾庄圩，仅3刻钟就发射炮弹4600余发，被誉为“战争之神”的火炮，在围攻碾庄圩中大显神威，敌有生力量大量被杀伤，防御工事被摧毁，步兵部队沿着这条开辟的通路奋勇向前冲击。
淮海平原的初冬，已是天寒地冻，北风凛冽，而夜间壕水更是冰冷刺骨。为了争取突破时间，突击队的同志跳下水深齐腰的壕沟涉水前进，有的同志干脆脱掉棉衣，光背赤足涉水而过。壕壁、围墙陡直难攀，战士三番五次爬上去摔下来。为我炮火震蒙了的敌人，如噩梦刚醒，机枪、手榴弹一齐打来。战士们一面还击，压制敌人火力，一面叠“罗汉”向上爬，喊着口号，相互鼓励着“冲过水壕，翻过围墙就是胜利！”仅用半小时，碾庄圩第一道围墙的突破口就被9连撕开了，红色信号弹划向豁口上空。我后续部队随后跟进。
守敌使用炮火和步兵交叉火力以及火焰喷射器，凭着尚存的工事构成一道新的火墙阻碍我军前进，不少同志被火焰烧得在地上翻滚，但火焰一灭，又立刻冲上去。经过一番搏斗，将守敌一个营消灭在地堡密布、壕沟纵横的阵地上。突击连和后续部队占领几所院落站稳脚跟后，立即支援“济南第1团”，向那里的守敌压过去。这时，两个主攻拳头会合了，共同打退敌人“青年突击队”的疯狂反扑，向前进攻。为了抵近射击，打死角，由纵队参谋长陈宏和67团指战员研究出的用炮抛射炸药，给敌人很大杀伤。据俘虏兵讲：这种“炮弹”，会飞到墙头上爆炸，没法躲。华东野战军首长称赞炮打炸药是一大创造。
8纵部队和“济南第1团”在第二道围墙的南门外会合后，共同研究了兵力、火器的配合。“济南第1团”首先冲破南门，两支部队一齐向里冲杀，当后续部队拥向南门石桥时，石桥被敌人炮火炸塌了。在这关键时刻，在现场指挥的参谋长陈宏见水壕有些障碍物，立即命令负责架桥的67团7连用这些东西把桥加固好，使后续部队源源不断地冲过。部队在接近黄百韬兵团部的时候，同垂死挣扎的敌人展开了逐屋、逐点的争夺，有时竟是白刃格斗。一直激战到20日清晨5时50分，攻打敌人兵团部和25军军部的各部队会师了。当特务团团长董玉湘进到黄百韬住址时，发现黄百韬睡的毛毯上遗弃下1支手枪和1瓶安眠药。至此，除黄百韬带千余人逃向64军军部据守的大院上村外，守敌全歼。
和8纵并肩担任主攻的9纵在南面沿邵墩、火车站、碾庄圩方向实施主要攻击，以25师、26师并肩左右攻击。11月15日，为了准备对碾庄圩的攻击，纵队因攻击正面缩小，重新调整了攻击部署，以巧师攻击碾庄圩，调26师到2线作短暂休整。11月19日，9纵在突破敌前沿后却发展很慢。正在这时，25师向9纵司令员聂凤智请示，8纵有个小分队，要求从25师73团的突破口里加入战斗，聂凤智当即同意，并要求他们向右侧发展，不要两个部队搅在一起。由于这个小分队进去，进攻速度加快了，经过4个小时的激战，就连续突破敌人两道围子，敌人马上乱了阵脚。
“黄百韬要逃跑了！”这个振奋人心的消息立刻传出。
原来，黄百韬兵团部与64军军部在电台上用粤语通话，说是一号（指黄）要到大院上去，要求派人保驾。正好被9纵的老广，名叫孔广平的随军记者侦听到了这个消息。聂凤智闻言立即命炮兵实施拦阻射击，可惜没有打中。9纵突击部队解决了敌炮兵阵地后，向纵深发展，一直打进了黄百韬的兵团部。
黄百韬的兵团司令部就设在一家酒坊里，早巳被我军的猛烈炮火炸得面目全非，炮弹直接命中屋顶，事后有人好奇地数了一下，发现上面竟然开了7个天窗。黄百韬侥幸未被炸死，和25军军长率领着残部逃到了大、小院上和尤家湖等村继续负隅顽抗，他留下的1辆新的美式吉普车连同车上的1副象牙麻将牌和1具紫铜火锅，成了我军的战利品。黄百韬跑得太匆忙，只带了几个随从，兵团指挥部的一摊子统统成了俘虏，连两箱机要密码也没来得及销毁。纵队司令部立即派专人将密码送到野战军司令部，后来在战役决战的第二、三阶段，对破译工作起到了不小的作用。
此时，碾庄圩已被攻克。
黄百韬已经走向了他的生命尽头。
在这场战斗期间，新华社发表了******起草的关于《中国军队形势的重大变化》的评论。******信心十足，指出再有一年左右的时间，就可能从根本上打倒国民党反动派政府。
事实果然如他所料。
小小的碾庄圩已经被淹没在战火硝烟里面。黄百韬清楚地知道，他已是穷途末路，这里恐怕就是他的归宿了。
一向自负的黄百韬何曾有过这样的念头。他转战沙场多年，正是因为卓著的战功和忠诚才受到******的器重，他怎么也想不到今天他会落到如此地步。
圩子里的枪声一阵紧似一阵，像是对他的回答。
我军几个纵队在一起打仗，是不比赛的比赛，谁也不甘心落后。但突破敌前沿时却发展很慢。圩子里到处是顽强抵抗的敌人，到处是枪声，抬脚是地堡，敌人像疯狗一样连续不断地反扑。徒步涉水进攻的战士们被浸湿了棉衣，穿在身上又重又冷，冻得脸色发青。
11月19日，炮火几乎全集中在这一个地方了。碾庄圩覆灭前，我华东野战军整整实施了30分钟的炮火急袭，黄百韬在战栗，整个碾庄圩在战栗。同时，黄百韬几乎也是不假思索地命令他的炮兵，把炮弹全部打完。黄百韬脸色铁青。
大约经过4个多小时的激战，到20日凌晨40分，我9纵73团5连（归1营指挥）突破了第二道围子。第一、二道围子相距也只有百来米。第二道围子一经突破，敌人的核心阵地就被我军冲击得如同处在激流当中。
黄百韬在深深的忧虑之中度过了他生命历程的最后几天。
解放军的冲锋号声响起来了，黄百韬也听到了那嘹亮的声音。黄百韬被64军军长刘镇湘、25军副军长杨廷宴等人保护着跌跌撞撞地突围了。
到处是人影憧憧，到处是喊杀声。22日，敌第7兵团完全被歼。黄百韬和杨廷宴由碾庄圩东北的小费庄向西突围，在一个草堆下面，眼看着已经没有去路了。黄百韬从腰间拔出手枪，对准自己扣动了扳机。
“我老了，而且多病，做俘虏我走不动，也难为情。
我死了，或可使那些醉生梦死的人醒悟过来。你们年纪还轻，尚有可为，希望你们突围出去，再为党国做点事。”
这是黄百韬在生命的最后时刻给身边人留下的话。
黄百韬曾对杨廷宴说他有“三不解”：
（一）我为什么那么傻，要在新安镇等待44军两天；
（二）我在新安镇等两天之久，为什么不知道在运河上架设军桥；
（三）李弥兵团既然以后要向东进攻来援助我，为什么不在曹八集掩护我西撤。
即使在生命最后一刻，他也还是执迷不悟。但他和******任谁都把握不了战局的发展。这是一种历史的必然。
黄百韬死后，杨廷宴见一个解放军战士走来，就诡称死者是他哥哥，只有兄弟二人，他是奉母命来探视哥哥的，不料哥哥被打死了，说完以后就伤心地痛哭，并乘机把黄百韬的手枪交给了这个解放军战士，请求协助他埋葬。埋完之后，他记下了地点并树下了标志。等他逃回南京后，向顾祝同报告了这个情况。顾祝同就派人按所说的地点把黄百韬的尸体运回了南京。
黄百韬被歼，等于砍掉了******在徐蚌会战主力的一支有力的臂膀。
11月23日。华东野战军司令部。
粟裕坐在椅子上，侧首仰望着墙上的地图怔怔地出神。
副参谋长张震轻轻地走来，强压着发自心底的兴奋，尽量小声说：“粟司令，谭震林、王建安来电报告，碾庄战斗圆满结束了！”
“嗯？”粟裕放下双手，挺直了身子，不出声地望着张震。
“碾庄战斗已经结束了！”张震再也抑制不住自己激动的心情，放开嗓门大声说道，“黄百韬兵团已经被全歼了！”
“哦！”粟裕平淡地应了一声，突然脑袋一歪，身子一软，几乎随着椅子摔倒。
张震急忙上前扶住，连声呼喊：“粟司令、粟司令……”粟裕竟放松、放心地睡着了。
事隔多年以后，粟裕对妻子楚倩谈起此事时说：“那时太紧张了，上至中央军委，包括主席，下至我们，开始都对黄百韬兵团的战斗力估计不足，后来我们碰了钉子，可又不敢向主席叫苦，只有豁出来打。主席天天来电催问战况，我心里很急。部队打得很苦啊……”
直到掌灯时分，粟裕才长长地吐了一口气，慢慢地醒了过来。半个多月来，他从未这样从容地睡过觉。醒来后，他觉得筋舒体泰，神清意爽，坐起来伸了个懒腰问：
“什么时候了？”
守候在他床边的张震告诉他，已经晚上了。
人民解放军某部炮兵观测所连续观测目标九昼夜“开始工作。”
“你一天没吃饭了。”
“真的？”粟裕突然觉得是有点饿了，“有鸡吗？”他问张震。
这天晚上，华东野战军司令部灯火通明。粟裕和谭震林、陈士榘、唐士亮等人一起总结歼黄作战经验，大家的心情既高兴又沉重，因为这几个主要作战纵队，如4纵、7纵、8纵、9纵、10纵、11纵、13纵伤亡都平均在2000人以上，有的竟达5000多人。
“这一条经验非常重要，是我们用生命和鲜血换来的。”粟裕用一根指头在桌子上比画着说：“在江淮平原作战，由运动战转入攻坚战的时候，不可急于求成，而应加强对壕作业，隐蔽接近敌人，将壕沟挖到敌人眼前再发起攻击，逐点争夺，逐个歼灭。”
谭震林笑着说：“这就叫吃一堑长一智！”
会议结束后，粟裕将棉衣一裹，走了出来。这是一个繁星满天的夜晚。
在这天夜里，粟裕发现远处似乎有点点火光在摇摇晃晃地移动着。粟裕凝神谛听，一片吱吱呀呀的声音，像车轮滚动。他再向四周望去，若明若暗地到处都有火光移动，又隐隐地传来吆喝牲口的声音。他心头猛地一热，多好的人民！
历时半个月的淮海战役第一阶段作战中，我9纵共歼敌黄百韬兵团部及44军、25军、63军、64军各一部，共2．41万余人，缴获各种火炮200余门和其它战利品，我9纵也付出了7000余人的伤亡代价。
