粟裕按照新的作战方案迅速展开行动。1948年6月16日，第3、第8纵队6万余人在隐蔽中向开封急进，17日抵达开封城下。当日黄昏就从东、西、南三面向开封发起进攻。
在华野第8纵队的攻城部队中，担任开封南关正面攻击任务的是突击营营长艾顺。艾顺终于回到了家乡。当年他参加了刺杀日本特务头子吉川贞佐的行动之后，辗转到山东解放区，参加了人民解放军。参军后，艾顺跟随部队南征北战，东拚西打，总是冲锋在前，英勇作战，杀敌立功，锻炼成长为部队指挥员。此次回家乡参加攻打开封的战斗，艾顺十分激动，他代表全营官兵一再向上级请求，要求把最重要的任务交给他们。经上级批准，艾顺所在营担任了开封南关主攻方向的突击任务。
开封，是一个历史古城，也是中原逐鹿的核心地区，自明代以来战火不息，城墙屡经修建已有两丈多高，高大坚固，全部用砖石和三合土筑成。开封城有大南门、小南门、宋门、曹门、西门和北门6座城门，有南关、宋关、曹关和西关4个关口。国民党自从日军手中接收开封之后，花了很大精力进行战场建设，依托高大城墙，构建了以城垣为主阵地，以龙亭及河南省政府为核心的坚固防御体系，阵地中的碉堡多用钢筋水泥筑成，堡垒之间相互衔接，火力配系梯次配置，防御体系极为完善。国民党军在城外也构筑了大量工事，挖掘了纵横东西、贯穿南北的外壕、堑壕和交通壕，重兵把守，层层阻隔，整个开封成了一个大堡垒、大阵地。河南省主席兼城防司令刘茂恩夸口：“开封是座铜墙铁壁，谁也打不开。”
进攻开封前，陈唐兵团已通过地下党掌握了开封的城防情况，他们决心首先从开封南关、西关两个方向突破，之后从东北等方向进攻其它关口，四面围攻开封，以双倍于国民党军的兵力一举夺取开封。
南关是国民党军的防御重点。从这里攻入城区，可顺着南北方向的中山路直达市中心，直插敌人心脏。为加强南关的防守，刘茂恩专门将整编第68师119旅第355团及保安第1、第2旅主力配置在南关一带。
1948年6月17日，“开封战役”正式打响。华野第8、第3纵队在猛烈的炮火准备后，向南关、西关发起进攻。第8纵队突击营在营长艾顺率领下一马当先，全营官兵勇猛冲击，如暴风骤雨般扑向外围阵地。经过连续战斗，部队很快突破了外围阵地，占领了南郊飞机场、南关火车站，全歼了顽守在核心据点——南关邮电大楼一带的保安第2旅、第2团主力。战至18日午夜，第8纵队突击到了南关大南门和小南门跟前。
大南门和小南门是国民党军坚守的重点，兵力猬集，火力强大，攻城部队屡次攻击受挫，疯狂的敌军甚至组织起敢死队向城外发起了反冲锋，双方交战异常激烈。艾顺率部浴血奋战，坚决顶住敌人的反冲锋，并派爆破手冒着枪林弹雨破除路障，炸毁了城门，于凌晨突入城内。6月20日，第8纵队开始向城内各区发展，一直推进到河南省政府附近。
河南省主席兼城防司令刘茂恩，此时正龟缩在省政府大院内顽抗。在解放军刚开始攻城时，他就向国民党徐州“剿总”和南京频发电告急，报告“解放军决非佯攻开封，他们对开封城宋关、曹关、南关和西关同时发起猛攻，意在速战速决，请火速增援。”参谋总长顾祝同接到电报后，急忙报告蒋介石，蒋介石深感意外，但确信开封城防坚固，即使没有援军也能坚守10天以上。蒋介石还直接给刘茂恩和整编第66师李仲辛师长打电话，安慰他们：“援军日内即可到达，依城固守，吸住共军攻城部队，当记首功。”
然而让他们没有想到的是，华东野战军仅两天就突破了开封城防，攻击到市中心的河南省政府附近。面对解放军的强大攻势，刘茂恩和李仲辛感到，根本阻挡不住共军的猛烈进攻势头，只有退至核心据点待援。李仲辛随即下令所属部队撤至龙亭主阵地固守，刘茂恩也将保安部队收缩至省政府一带固守防线。为阻挡攻解放军在街战巷战快速推进，他们下令在城内放起大火，焚烧民房，构成一道道火障，迟滞攻城部队速度，实施焦土防御。一时间，开封城内大火熊熊，浓烟翻卷，百姓哭声连天。
蒋介石在得知开封城破后万分焦急。他深知，如果河南省城开封丢失，不仅他的决战作战计划可能落空，而且在政治上陷入极大被动。为给城内守军打气鼓劲，蒋介石于6月20日乘专机亲自飞临开封上空，在空中与刘茂恩和李仲辛通话，鼓励他们报效党国，死守开封，不惜代价守住阵地。蒋介石还调集大批飞机对攻城的解放军实施狂轰滥炸。
战斗至6月20日下午，开封已大部落入解放军手中。次日清晨，陈唐兵团指挥部迁至城内，在理事厅街天主教堂建立了前线指挥所，粟裕亲临指挥所，直接指挥作战，极大鼓舞了部队士气。20日黄昏，第8纵队终于攻克了刘茂恩盘踞的省政府，全歼保安部队主力，刘茂恩在混乱中化妆潜逃。李仲辛则率残部退至城西北龙亭主据点负隅顽抗。至此，龙亭成为开封城内国民党守军的最后一个堡垒。
龙亭是一座高大的古代建筑，也是开封全城的最高点，它用大量的青石条砖砌成，建在一个数十米高的台基上。相传，这个“台基”是宋太祖赵匡胤登基的金銮宝殿，气势雄伟，楼高殿大，周围还有红色围墙拱卫。龙亭三面环水，左右两边有潘杨二湖，中间只有一条窄道与城区相通，地势险峻，易守难攻。李仲辛在修建龙亭核心阵地时花费了功夫很大，沿防御纵深构筑了12座的大碉堡，前后有5层火力网，埋设了大量地雷，并有6处炮兵阵地。李仲辛眼看突围无望，准备凭借龙亭这个坚固阵地进行最后顽抗。
此时开封已大部解放，攻城部队将龙亭团团包围。6月21日，第3、8两个纵队同时从多个方向对龙亭发起进攻，猛扑龙亭主阵地。李仲辛率残余守军穷途末路，拚死顽抗，反击火力十分凶猛。他们居高临下，对攻击部队实施密集的火力拦截，枪林弹雨倾泻而下，李仲辛甚至在龙亭上拉响警报，指挥大批光着膀子的国民党官兵向解放军发起反冲锋，他还通过电台呼叫来成群的飞机，对攻击部队实施猛烈轰炸。一时间，龙亭主阵地前弹片飞溅，硝烟障目，进攻部队血肉横飞，伤亡严重，进攻一再受挫。
在连续进攻失利之后，粟裕来到了阵地前。他仔细观察询问了战场情况，命令部队停止进攻，转为对龙亭围而不打，引而不发。随后，粟裕命令部队组织力量先在城内扑救大火，抢救伤员，救护受难百姓，同时将陈唐两个兵团的大炮全部集中起来，在龙亭东、西、南三面摆开，600门火炮一齐瞄准龙亭主阵地，准备众炮齐轰。
粟裕此时对龙亭围而不打，有他的战略考虑。此时，集结在鲁西南的整编第5军尚未驰援开封，他要利用开封的残敌作“诱饵”调动第5军。一天之后，第5军在蒋介石严令下终于出洞，从鲁西南赶往开封。粟裕看到他“钓鱼”的目的已达到，随即下令对龙亭发起总攻。6月22日，陈士榘司令员一声令下，600门大炮齐声怒吼，刹那间，周围山摇地动，响声震天，龙亭阵地在熊熊炮火中变成一片烈焰，12个大碉堡全部化为灰烬，防御工事被彻底摧毁，国民党兵鬼哭狼嚎，死伤成堆，饱尝了重炮猛轰的惨烈之痛。在持续不断的重炮轰击之后，第3、第8纵队像潮水一般冲向龙亭，越过潘杨二湖，攻近了龙亭高台之下。此时国民党守军已被炮火炸得焦头烂额，早无还击能力，难以抵挡进攻部队的迅猛浪潮，狼狈逃往龙亭大殿。许多官兵慌乱中钻进了龙亭高台下面的阴暗地道，有的躲在围墙暗角处吓得瑟瑟发抖，最后都跪在地上高举双手，向解放军缴械投降。
艾顺率领全营官兵从围墙缺口跳入龙亭，沿着数百级长长的台阶冲上高台大殿，控制了龙亭制高点。艾顺第一个冲入设在大殿内的整编第66师师部，在众敌万分惊恐之中捣毁了指挥所，活捉师参谋长游成校。与此同时，攻击部队在龙亭各处清除残敌，清剿顽匪，彻底歼灭了盘踞在龙亭核心阵地的国民党残军。整编第66师师长李仲辛，在仓惶中窜过龙亭后面的华北体育场逃到北门城墙，正要跳下城墙向外逃跑时，被追赶上来的解放军战士举枪击毙。
1948年6月22日，国民党残军盘踞在开封的最后一个据点——龙亭，被华东野战军攻克，整个“开封战役”画上了一个圆满句号。
“开封战役”鏖战之时，开封外围也打响了一系列阻援战斗。在开封东面，华野第1、第4、第6纵队，中野第11纵队和两广纵队，对邱清泉兵团实施了运动中的防御作战，给整编第5军予以重大杀伤，攻克了兰封县城；在开封西面，中野第9纵队和豫皖苏军区部队，攻占了中牟县城，阻击了从郑州赶来的孙元良兵团，使其无法增援开封；在开封南面，华野第10纵队和中野第1、第3纵队，将从上蔡北援的胡琏兵团死死拦阻，使其无法北进。华野山东兵团也包围了兖州，苏北兵团攻克了海州以西的阿湖，有力策应了“开封战役”的实施，确保了战役胜利。
开封之战，是华东野战军继“洛阳战役”后，在中原地区成功实施的又一次城市攻坚战，一举歼灭了国民党整编第66师、第13旅及河南保安第1、第2旅和3个保安团共3万余人，连同开封外围的阻援战，共歼敌4万余人。最具政治意义的是，此战攻克了河南省城开封，全国舆论为之哗然，蒋介石丢尽了脸面。
粟裕在“开封战役”中展现出了超人的胆识，大智大勇，大开大合，敌变我变，尽占主动，特别是断然甩开鲁西南战场，出其不意地夺取开封，致使蒋介石深陷被动，疲于奔命，失城损兵，气急败坏。
解放军占领开封之后，蒋介石在舆论压力下急调鲁西南的重兵驰援开封，欲围歼华野第3、第8纵队。而蒋介石这一举动，正中了粟裕把开封城作为“诱饵”的圈套，为下一阶段歼灭敌军，取得“豫东战役”全胜，埋下重重伏笔。
开封被攻克之后，陈士渠、唐亮两兵团胜利会师。一时间，开封城内红旗飘飘，欢歌笑语。这是解放军转入战略反攻后夺取的第一座中原省会大城市，也是一座历史名城。蒋介石像个输红眼的赌徒一样，要进行疯狂的报复。他命令整编第5军、第83师继续向开封急进，同时命令区寿年兵团整编第72、第75师及新编第21旅，由河南民权经睢县和杞县迂回包围开封，企图与解放军进行新的决战。蒋介石宣称，“战争能否胜利，全靠中原这次决战。”
夺取开封之后，粟裕看到他设下的诱饵调来了国民党重兵驰援，随即决定，将城市攻坚作战转为运动中歼敌。粟裕十分熟悉援军将领的作战风格，决心放弃开封，继续布“疑阵”迷惑敌人，保持战场主动权。粟裕命令各纵队迈开大步，在豫东地区大范围机动，创造新的战机，重点围歼国民党军中战斗力较弱的区寿年兵团。
1948年6月26日，第3、第8纵队主动撤出开封，向通许方向转移。邱清泉兵团占领开封后，随派主力尾随第3、第8纵队南下。此时曾与其并进的区寿年兵团，因惧歼在睢杞地区踌躇不前，与邱清泉兵团拉开了40公里的间隙。粟裕抓住这一难得的战机，指挥华野第1、第4、第6纵队和中野第11纵队组成“突击集团”，于6月27日晚对区寿年兵团实施战役合围。担任攻击任务的“突击集团”部队，不顾连日疲劳，对区寿年兵团发起猛攻，经两昼夜激战，全歼区寿年兵团新编第21旅、整编第75师第6旅，活捉了兵团司令区寿年。激战中，华野第3、第8、第10纵队，两广纵队和中野第9纵队组成的“阻援集团”，顽强阻击了前来救援的邱清泉兵团，坚决隔绝了两兵团的战役联系。
蒋介石得知区寿年兵团被歼后大惊失色。他急令整编第25师师长黄百韬组成一个新兵团，率整编第25师、第3快速纵队和交警第2总队，由山东滕县西援豫东。面对新出现的国民党重兵包围，粟裕沉着应对，将参战部队迅速东移，寻歼运动中的黄百韬兵团。7月2日晚，华野第1、第4、第6纵队和两广纵队全线出击，向黄百韬兵团发起战役合围，激战至6日凌晨，歼灭了敌军3个团，迫使其缩踞在帝邱店一带不敢妄动。此时，“豫东战役”的预定目的已经实现，部队经连续作战十分疲劳，粟裕随即指挥各部队主动撤出战斗。“豫东战役”至此结束，共歼敌9万余人。
“豫东战役”彻底结束了国民党军在黄河南线的进攻态势，大量歼灭了敌人，动摇了蒋介石据守要地的信心，为全面展开中原与华东地区的新战局具有重大意义。
陈毅深叹“豫东战役”的惊险程度，连赞：“粟裕浑身是胆！”毛泽东也从“豫东战役”中深刻认识了粟裕非凡的军事才干。1948年8月，在“豫东战役”结束一个月后，毛泽东在西柏坡接见华野特种兵纵队司令员陈锐霆时，感慨地说：“‘豫东战役’胜利以后，解放战争就好比爬山，现在我们已经过了山坳子，最吃力的爬坡阶段已经过去了，很快我们就要‘下坡’了。消灭黄百韬和邱清泉，我都记在粟裕名下了。”
素有“战神”之称的林彪，对粟裕指挥的“豫东战役”也表现出少有的钦佩之情。一向在作战指挥上极少夸赞他人的林彪，称赞粟裕在此次战役中出奇制胜，打了一个“神仙仗”。林彪还专门让东北野战军参谋长刘亚楼找来“豫东战役”的资料，进行了深入研究。
