此时，我军南下打援未成，北面济南之敌又迟迟未动，兖州孤立，出现“空档”。我山东兵团首长当即决定抓住这一战机，集中兵力攻下兖州。遂以7纵、13纵和鲁中部队投入攻兖作战，重新将兖州团团围住。
这次攻城，上级把55团布置在城南关。55团一到南关，便一鼓作气攻占了南关的大部分。这给敌人造成了一个极大的威胁。他们千方百计地想把我军从南关赶出去，用强大的兵力、火力与我军争夺。而我军硬是寸步不让，坚决固守，一连五六天时间，枪声、手榴弹声不停地响着。
7月11日下午，上级下达了总攻的命令，我军的部署是：20师、21师及19师56团，为主攻部队；13纵队和55团，为佯攻部队；城西、城南、城北都有部队攻击，围三缺一，只有城东没有设兵，这是留一个口子，赶敌人出城，以便在东郊彻底消灭之。
翌日黄昏，总攻前的炮击开始了。我军集中了全部炮火，向城内各个固定目标进行了猛烈轰击。城内敌人的野炮营被炸坏了，变成了哑巴；城头的一座座碉堡被摧毁了，失去了效力；城防的铁丝网，鹿砦全被炸飞了。借着暮色，我军佯攻部队在护城河上很快地架起了浮桥；一队队战土，飞快地越过护城河，作出了攻城姿态，给敌人以错觉，使敌人判断错误。
这时，城西的主攻部队20师趁敌人注意力集中在城南、城北的机会，悄悄地把华野支援的多门美式105榴弹炮，推到离城墙约500米处，分段直瞄抵近射击。几十发炮弹连续地射向了城墙一处。很快，城墙上出现了使人可以爬上去的斜坡。炮声刚落，主攻部队的战士们像离弦的箭，跃出战壕，呐喊着冲上城头，杀进城内。主攻部队分多路突进城后，同敌人展开了英勇顽强的搏斗，打退了敌人的多次疯狂反扑，有力地巩固了突破口。
敌整编12师原为东北军旧部，善于守备。在城垣被我军突破后，敌军官带领士兵发起集团冲锋，敌我双方展开了一场恶战。当晚，20师突破口被敌人封锁。
这时，许世友命令外边的部队坚决往里突，从西往东打，打它个七进七出。不久，突破口重新被我军打开，后续部队如潮水般涌人城内，同敌人进行了逐房逐院的争夺。街头巷尾都有敌人重兵把守，各种火器打起来，形成了一堵堵的火墙，人是根本无法从街道通过的。
我军攻城部队在城内与敌人奋战了整整一夜，敌人的碉堡、地堡基本上被摧毁或被占领了。各种炮兵阵地大部被我军攻占，还夺取了许多街道和民房。
敌师长霍守义从我军攻城后，发出一封封特级告急电报，要求上级增援。结果其主子一兵一卒也没有派来，反而要霍守义督军抵抗。一夜间，兖州城已被我军占领了大半，敌军死伤惨重，师指挥所也被我军占领了。战至下午，我城内部队越战越勇，斗志高昂；敌军士气低落，神情沮丧，死伤和向我军投降的达万余人。敌人阵地一丢再丢，一退再退，已无存身之地了。
蒋介石看霍守义实在无法维持下去了，便下达了准其突围的命令，并派飞机掩护他们向东南临城方向突围。傍晚，城内的敌人便打开了东城门，急急如丧家之犬，拥挤着向城外逃窜。
这时，我军务部队嘹亮的冲锋号声一齐响了起来，战士们手提步枪，腰插手榴弹，好似猛虎下山，嗖嗖地跃出战壕，按照预定的作战方案，急速地向敌人出击。敌人为了掩护整编12师的突围，数十架飞机尖叫着从我军阵地上空掠过，投弹、扫射，封锁我军追歼击的去路。
我军出击敌人，需要涉过城东那条又宽又深的河。敌机封锁了河道，机枪子弹像下雨一样，落在水中。战士们冒着弹雨，冲进齐腰深的河水，争先恐后地向前冲。敌机的阻拦，丝毫没有影响我军的追击速度，战士们顶着敌人阻击的炮火，大胆地向敌人插去。我55团和兄弟部队，像两把利剑，一把由城南，一把由城北向敌人飞来。兄弟部队分兵一部向前拦住了敌人的去路，斩断了蛇头，另一部断了蛇尾；55团对着蛇腰一阵痛打，一会儿工夫，打得敌人死的死，伤的伤，剩下的都吓得趴在地上。
至此，我军全歼兖州守敌2．8万余人，俘虏了敌师长霍守义。
在我山东兵团部署攻兖之际，估计敌人不会轻易放弃津浦路中段这一战略要点。敌若要解兖州之围，十之八九要由济南分兵南下。为此，许世友命令9纵担任打援。9纵选择大汶口以南齐家庄、太平镇一带为战场，为了防止被敌侦破意图，后缩至泗水一线集结。
7月13日，敌161旅果然渡汶河南下，抵达齐家庄、太平镇一带，进入我军预定的伏击圈内。
傍晚前后，渐渐下起小雨。我9纵指战员冒雨急行军几十公里，连夜涉水渡过汶河北上，断敌后路。
当夜，王耀武得知兖州为我军攻克，急电吴化文部返济。吴化文一反南下时那种拖拉迟缓的作风，率部扭头疾速向济南逃窜，9纵截得敌第161旅、155旅一个团和师部炮兵营，于7月15日将其全歼，缴获野炮7门、山炮8门、满载弹药的汽车100余辆。
津浦路中段战役至此胜利结束。这一战役自5，月29日至7月15日，历时48天，歼敌6．3万余人。我军攻占了兖州，拔除了敌人在津浦路中段的战略要点，控制了徐、济间铁路线350公里，完全孤立了济南。同时打通了山东腹地与鲁西南的联系，为我内外线兵团适时会师创造了条件。部队的攻坚战术、技术水平也得到进一步提高，为下一步攻克敌坚固设防的山东省省会济南，积累了宝贵的经验。
九、粟司令熟筹定大计
济南是山东省省会，位于津浦、胶济两条铁路交会处，北依黄河，南靠泰山，战略地位十分重要。它是国民党反动派借以撑持其华北残局的战略要地之一，也是残存在山东腹地的唯一坚固设防的大城市。
1948年7、8月间，敌人判断我有攻取济南或向徐州外围发起进攻的可能，遂一面加强济南及徐州的防守，一面将机动兵团集结于徐州周围。为了保卫济南，蒋介石以他的“名将’’王耀武为司令官，指挥11万重兵，并在日伪原有工事的基础上，筑成了支撑点式的半永备型防御体系。外围防御地带分为警戒阵地和主阵地两层，基本防御地带由商埠阵地、外城阵地、内城核心阵地三线组成。
济南分东、西两个防区，东防区以国民党整编？3师师长曹振铎指挥整编73师、特务旅、保安第6旅等担任守备；西防区以国民党整编96军军长吴化文指挥整编84师、整编96军独立旅、保安第4旅、青年教导总队、人民先锋总队等担任守备。并准备空运两个旅至济南以加强防守力量。同时，蒋介石将徐州“剿总”的3个兵团17万人的机动兵力，分别集中于商丘、新安镇、蚌埠等地待命北援，拟订了所谓的济南“会战计划”。
7月14日，军委给粟裕来电：“拟令许（世友）谭（震林）于攻克兖（州）济（宁）后，休息两星期，即向济南攻击，迫使邱（清泉）黄（百韬）2兵团分兵北援（敌非北援不可）。此时，你们则寻敌一部攻击，使敌既被迫分散，又首尾不能相顾，利于我之各个击破及尔后大休整。许谭攻济南，可先占领机场，以两三个星期时间完成攻城准备（包括恢复疲劳、补兵、练兵、侦察及部署等）。然后看敌援兵情况，决定打援或先攻城。如攻城打援均无把握，则收兵休整。”
经过考虑，粟裕于7月16日电复军委：“以许谭现有主力攻济南与打援，势难兼顾”，“建议许谭与我们争取时间休整一个月，尔后协力攻打济南，并同时打援”。此时雨季已到，军委于23日批准了华野的建议，并要他们待休整完毕后，或转外线打几仗然后攻济南，或先攻济南并打援，提出作战计划。
粟裕和参谋长陈士榘、政治部主任唐亮及张震、钟期光等人讨论后，于8月10日联名向军委提出3个作战方案，第一方案是“集中全力转到豫皖苏及淮北路东地区作战，截断除蚌铁路，孤立徐州，将重点放在打援上，求得于运动中首先歼灭（新）5军，继而扩大战果，歼击其他兵团”。第二个方案是“集中主力首先攻占济南，对可能北援之敌，仅以必要之兵力阻击之”。第三个方案是“攻占济南与打援同时进行，但应有重点配备与使用兵力，即战役分为：第一阶段以两个纵队（全军以13个纵队计算）抢占济南机场而巩固之后，在济敌反夺机场中，尽力歼灭其反击力量，以削弱其守备兵力；同时以其余11个纵队打援，则兵力足够（敌援可能性很大，如敌不援则以攻济南为主）歼灭敌人援兵之一路（首先以歼5军为目的）或两路，只要援敌被歼，则攻济南有保障。第二阶段则于歼灭敌之主要一路后，以一部担任阻击，而将主力转到攻济南。”
粟裕他们在报告中倾向于第三方案。他们将打援战场选择在汶河以北，泰安以西，肥城以南地区或邹县、滕县间地区，阻援战场选择在鲁西南金乡、巨野、嘉祥地区。
军委和毛泽东于8月12日复电，同意攻济打援。同时，又高瞻远瞩地指出第三方案的“弱点是只以两纵占领飞机场，对于济南既不真打，而集中11个纵队打援，则援敌势必谨慎集结缓缓推进，并不真援。如果你们此次计划不是真打济南，而是置重点于打援，则在区兵团被歼，邱黄两兵团重创之后，援敌必然会采取（不会不采取）这种谨慎集结缓缓推进方法。到了那时，我军势必中途改变计划，将重点放在真打济南。这种中途改变计划，虽然没有什么很大的不好，但丧失了一部分时间，并让敌人推进了一段路程，可以给于战局以影响”。并且指示：“我们目前倾向于攻城打援分工协作，以达既攻克济南又歼灭一部援敌之目的。”
接到军委上述指示后，又得悉敌人空运第19旅至济南，增加防守兵力。这时，粟裕已率野直机关及部分纵队干部到达曲阜与谭震林会合，他们商量后认为，为确保攻济必克，须加强兵力才能奏效。但是又感到不论打援与攻坚，手中兵力尚非绝对优势。于是，他们又于8月23日联名报告军委，要求调苏北主力部队（除留1至2个旅在苏北坚持外）北上参战。次日，军委批准除第33旅、第34旅留在苏北外，苏北兵团的2个纵队和1个旅北上参战。这样，在攻济打援战场上敌我兵力对比，我军占有了优势。
军委和毛泽东主席对战役采取极其慎重的态度。根据山东战场敌我力量对比，28日指示华野：“我们不是要求你们集中最大兵力，不顾一切硬攻济南，这样部署是非常危险的。我们要求你们的是以一部兵力真攻济南，不是佯攻，也不是只占飞机场，而是集中最大兵力于阻援与打援。”
军委着重提出的集中最大兵力阻援打援和真攻济南，给粟裕以很大启示，中国革命战争已发展到了最后夺取大城市的新时期，应以新的发展的观点来认识歼灭敌人有生力量和夺取大城市的辩证关系。以往，不论“攻城阻援”还是“围城打援”，都是为了歼灭敌人有生力量；济南战役则不仅为了歼敌有生力量，而且为了将大城市永久地巩固占领之。这样，我军则无后顾之忧，可以集中更大兵力去争取前所未有的更大胜利。
华野前委一致拥护中央军委和毛泽东提出的这一方针。根据战场的实际情况和军委的指示，粟裕决定将参战兵力40％组成攻城集团，56％组成打援集团。攻城集团兵力为6个半纵队及特种兵纵队大部分，以及地方武装共14万人，由许世友任攻城集团司令员、谭震林兼政治委员、王建安任副司令员。以山东兵团领导机关作为攻城集团的领导机关。打援集团兵力为8个半纵队及特种兵纵队一部分，以及地方武装共18万人，由华东野战军司令部直接指挥。
毛泽东同意了华野的方案。9月10日，许世友到达攻城集团指挥所，次日，毛泽东给他发电，明确指出：“此次作战目的，主要是夺取济南，其次才是歼灭一部分援敌。但在手段上即兵力部署上，却不应以多数兵力打济南。如果以多数兵力打济南，以少数兵力打援敌，则因援敌甚多，势必阻不住，不能歼其一部，因而不能取得攻济的必要时间，则攻济必不成功。”
面对敌人的防御情况，粟裕着重从兵力部署上分析了敌人守城的重点。济南守城之敌，在王耀武统一指挥下，分为东、西两个守备区，守备东线的是中央军，守备西线的是杂牌军吴化文部。济南守敌既然将中央军置于东线，显然以东线为其重点。西线守敌69军军长吴化文，在战役前曾有弃暗投明的表示，可能在战场起义，这就可使敌防线出现缺口。同时敌人的机场在城西，攻下机场，可切断敌人的空中补给线，不但可以断绝敌人兵力和物资的来源，而且能够给敌人以精神上的严重打击。
为此，粟裕决定将攻城兵力重点首先用在西线。华野将攻城集团也分为东、西2个兵团，由东、西两面向济南实施钳形夹击。西兵团以第3·纵队、第10纵队、两广纵队、鲁中南纵队（4个团）及冀鲁豫军区一部兵力组成，由第10纵队司令员宋时轮、政治委员刘培善统一指挥；东兵团以第9纵队、渤海纵队（6个团）及渤海军区一部兵力组成，由第9纵队司令员聂凤智、政委刘浩天统一指挥。此外，以第13纵队为攻城预备队。特种兵纵队组成两个炮兵群，分别配属给东西兵团。
至于打援集团，我军采取“夹运（河）而阵”的部署。在运河以西配置第4纵队、第8纵队和冀鲁豫军区的2个旅，依托水洼地带，构筑多道纵深的工事，坚决阻击由鲁西南北犯之敌；而将打援集团的大部配置在运河以东，由第1纵队、第2纵队、第6纵队、第7纵队、第12纵队、中野第11纵队及鲁中南纵队（4个团）组成，拟在邹县以南集中30个团歼援敌3个旅，而以其余22个团钳制援敌的其余各部，尔后再依情况发展而定下一步作战行动。
济南战役定于9月26日开始，在开始前3天（即13日夜晚），我南线江淮军区和豫皖苏军区部队开始破击徐州至商丘、徐州至蚌埠、徐州至运河站的铁路线并威胁徐州，迫使敌人分兵以防徐州。同时，华野司令部指示淮南部队破击蚌埠至浦口的铁路线，留在苏北的的33旅向运河线进袭，以配合济南战役。
9月9日，粟裕在参加西兵团作战会议中，得知济南飞机场及其外围防守兵力已达5个旅，正日夜赶筑工事，第3、第10纵队进攻均感吃力，至少要拖长时间。当天，粟裕致电许世友、谭震林等人提出：“一、鲁中纵队首先沿大沙河东北攻占大高山、双山头、羊洞顶、马林并转向党家庄、井家沟攻击前进；二、第一步作战，13纵最好全部使用，如不能全部使用时，至少抽1个师或更多兵力协同鲁中纵队由南攻取飞机场。”
