南京政府对日本军国主义行径的忍让妥协，并未满足其欲望，更未延缓其入侵中国的步伐。1935年，日本侵略者又连续挑起河北事件、张北事件，实际上控制了河北、察哈尔两省，进而加紧策动华北五省“自治”。
蒋介石尽管在主观上急于求和，不主张抗日，但是，面对全国人民日益高涨的抗日呼声和日本咄咄逼人的攻势，又不得不逐渐调整内外政策。如果不摆出抗日的姿态，国民政府将被民众救亡运动的浪潮所冲垮。蒋介石又担心万一日本提出更加苛刻的条件而危及他的统治，也不得不作抵抗的准备。于是，在军事委员会之下新设下了一个执行部，专门筹划抗日工作，并任命力主抗日的唐生智为执行部主任。执行部的办公机构就设在南京百子亭二号唐生智的公馆内。
此时，唐生智身兼军事委员会第一厅主任、训练总监部总监、执行部主任几个职务，工作十分繁忙。也就是在这个时候，唐生智身患重病，有时卧床不起，以后转成胃病。他经常带病参加军事会议和军队调动工作。他能调动的部队主要是一些杂牌军，蒋介石的嫡系部队由他自己亲自掌握，别人是无法染指的。他对蒋介石把嫡系部队留在后面以保存实力，而把杂牌军推到前线“借刀杀人”的做法非常不满。蒋介石要求唐生智让他的德国顾问法根浩森上将多参加执行部的工作，而唐以法根浩森在日本当过武官便始终对其持怀疑态度，不久，法根浩森就转道日本回国去了。
面对日本帝国主义这个强大的对手，唐生智一改当年北伐时强悍、速战的作风，主张持久抗日。他在多次军事会议上，反复陈述，中国的抗日战争是一场持久战，只要有拖死日本人的决心，最后的胜利一定属于中国。要想持久抗战，就必须制定周密的作战计划，修筑坚固的防御工事。唐生智平时经常与蒋百里等师友讨论交流抗日办法，并把他们好的意见集中起来，以指导起草上海、南京一带的防御计划。防御计划先由执行部起草，再交蒋介石核定，决定以上海、杭州湾为第一道防线，昆山、无锡、苏州、杭州一带为第二道防线，江阴、镇江为第三道防线，南京、京杭公路为第四道防线。防御计划还要求各线部队预先做好准备，万一上海守不住，第一线的部队应撤到浙江以西、皖南一带休整补充，并在这里准备阵地。以后各线则陆续往后方调动，以做长期抗日、拖死日本人的打算。当时，执行部是按照唐生智的意见构筑各线防御工事的，蒋介石对唐的意见，口头上也表示同意。但是，蒋后来不征求任何人的意见，就直接下达命令，很快把各线的部队调走了，以致执行部花费不少精力制定出来的军事计划和修筑起来的防御工事，都失去了效用。
苏杭几道防御工事建成后，唐生智亲自主持制定了“1935年秋季大演习计划”，选定南京至宜兴天王寺、溧水与溧阳张诸一带为演习地域。12月2日至6日，三十六师、八十七师、教导总队和宪兵队共四万余人参加了军事演习，以日本侵略军为假想敌人，中国军队模拟抗击日军登陆作战。蒋介石担任此次演习的总监，唐生智担任参谋长。演习结束时，蒋做了很高的评价，唐生智也做了详细的讲评。
唐生智认为，通过演习，不仅提高了各级指挥官的指挥能力和各兵种的协同作战能力，而且发现了军队在编制、装备、教育、训练等方面的缺点。如果大家能够悉心研究，全力以赴进行改进，并在短期内取得良好成绩，完成国防准备工作，那么，“演习之价值甚伟大也”。这是从总体上来说的，他还进行了具体分析。
就如何保障指挥成功，他指出：军队指挥官应使部下明确了解自己的意图，令其坚决执行，同时，又要赋予其见机行事、捕捉战机的权力，以引导战争走向胜利。“此为军队指挥成功之要诀，吾人所当恪守不逾也”。他认为指挥官不能一下达命令就万事大吉，还应监督命令的实施。指挥官不仅“应有战术上之充分修养，具备军队指挥之优良技能”，而且还要“以伟大之人格，冷静之头脑，坚强之毅力，勇敢之精神”去克服各种困难。如果具备了这些条件，就可以指挥若定，三军用命，摧破强敌，建立奇功。
军队的部署直接影响到战争的胜败，唐生智认为兵力使用应有重点，“彻底集中优势兵力于决战方面，为指挥官所应恪守之原则”。他指出此次演习不合乎此用兵原则之处颇多，往往分割决战方面的兵力，以至成功少而受害多，得不偿失，非所宜也。
关于步兵和炮兵的协同作战，唐生智认为，在现代战争中，步兵如无炮兵支援，几乎不能进行战斗；炮兵只能以火力破坏敌军的工事，阻止敌军的攻势，但不能确保战胜的成果。因此，步炮兵便成了不可分离的姊妹兵种。作为战争的指挥官，应使步兵之运动与炮兵之射击相互协调，有如一体之行动。唐生智指出，此次演习暴露了步炮兵未能很好协同合战的缺点，希望以后能悉心研究炮兵之运用，增加步炮兵之联合演习。
对于空军、战车、化学武器的运用，唐生智觉得有许多不满意的地方。他认为，空军与地面部队配合欠佳，也未能很好发挥侦察、驱逐作用，以后在训练时要多加注意。战车为奇袭所用兵器，可以开路冲锋，压制敌人的重兵器，但是，它无独立战斗能力，若暴露过早，易成敌军炮火之牺牲品。战车营在演习中暴露出不少问题，证明训练有欠完善。唐生智认为演习部队对毒气、烟幕等化学武器的掌握与使用均有不合机宜之感，主张审慎使用，选择最有利之时机与地点应用之，而且要注意气候变化等因素。
对于作战地形及部队之运动，唐生智也提出了自己的看法。此次演习选择的地形具有一定的代表性，既有稻田，也有河川山坡，道路较窄，交通不便。唐生智主张多利用夜间行军，白天行军要尽量避开大道，宜利用众多小道疏散前进，以防敌军空袭。江南一带河川密布，应充分利用进行攻防，要事先准备民船、橡皮舟或其他轻便地方材料，以作渡河之用。唐生智还强调，军队之行动，贵在奇袭，因此，在军队运动之前，保守机密，甚为重要。
通过这次演习，唐生智发现了国民党军队在许多方面的缺陷，总结了宝贵的教训，提出具体的富有针对性的改进方案，为提高抗击日军的战斗力进行了极大的努力。
为了做好保卫南京的战斗准备，1936年秋，唐生智又组织了一次大演习并亲自担任裁判长。由第三十六师、八十七师、八十八师、教导总队组成的国府警卫部队参加了这次演习。演习仍以日军为假想敌人，模拟抗击日军对南京的争夺战。设想日军主力到达汤山南北一线阵地后，国民党军队利用复廓节节抵抗，消耗敌军实力，逐渐诱敌深入至紫金山以南一带歼灭之。这些演习的进行，说明唐生智等对淞沪抗战和南京保卫战是做了相当的准备工作的。
1936年12月12日，“西安事变”发生后，南京召集国民党中常会、中政会联席会议，决定军委会常委由五人改为七人，以何应钦、程潜、朱培德、李烈钧、唐生智、陈绍宽为常委；军委会由冯玉祥及常务委员负责。
唐生智在积极筹划国防工事、制定防御战略的同时，密切关注日军的行动，主持对日本军备情况的调查，并于1937年1月汇编成《日本军备调查汇要》一书，发往全军，以便大家知己知彼，心中有数。他在此书的前言中称，日本帝国主义由东北而华北，欲深入内地，鲸吞中国，“在此形势下，一切外交之斡旋，断不能解决中日之纠纷”。所谓“经济提携、互惠平等，皆难置信，惟有我政府与人民，不断努力，自求更生”。“惟有从事奋斗，整军经武、枕戈待旦，一朝大敌降临，迎头痛击而已”。凡我军人，只要一气尚存，就应为国奋斗，为国牺牲。如果能做到这一点，中国“应有救焉”。可见，唐生智已认定战争之不可避免，妥协也不能祛除灾难，对于日本帝国主义的入侵，唯有迎头痛击。只要政府与人民共同努力，军人不畏牺牲，争取抗战胜利不是没有希望。唐生智对于人民在抗战中的地位和作用，已有了新的认识。唐生智之积极抗战和抗战必胜的主张，既是对广大民众抗日救亡热潮的呼应，又对增强国民党军队的抗战信心起到了积极作用。
6月中旬，即在全面抗战即将爆发的时候，唐生智又亲自审定并批准出版戴安澜团长所编《痛苦的回忆》一书。该书总结了1933年中国军队长城抗战的经验教训，提出了许多令人注意的问题。唐生智希望通过它引起大家的注意，让军队事先做好抗战的准备。他也为此书写了前言，称中日之间只可能增加摩擦，不可能趋向调和，“因为中国没有一个大胆的政治家敢签字把东四省送给日本，日本也没有一个大胆的政治家敢把东四省交还中国。这是纠纷的根源，存在一天，就一天不可调和，不到你死我活胜负分明的时候，这个纠纷是不会消灭的。所谓亲善、提携、调整这类的话，那是外交词令”。应该说，唐生智基本上看到了问题的关键，对中日关系的走向把握得比较准确。他反复告诫大家不要被日本制造的和平假象所蒙蔽，而要未雨稠缪，事先做好抗战的准备工作。这些对于帮助人民做好抗战的心理准备是功不可没的。
被唐生智不幸言中的是，日本帝国主义果然在1937年7月7日一手制造了“卢沟桥事变”，发动了大规模的侵华战争，中国也开始了全民族的抗战。国民党中央为了应付时局，决定中央政治会议暂时停止活动，组织国防最高会议。紧接着，又宣布以军事委员会为抗战最高统帅部，另设国防参议会。从7月中旬至9月初，最高统帅部几乎每天晚上9时举行会议，作为训练总监部总监和执行部主任的唐生智经常带病参加会议，听取战况汇报，研究战略对策。
“卢沟桥事变”发生后，驻守河北、察哈尔和平津地区的第二十九军军长宋哲元，认为是局部冲突，加上担心蒋介石借刀杀人，便愿意与日本和解，中了对方的缓兵之计。此时，最高统帅部会议专门研究了应付办法。在7月14日的会议上，有人认为现在我方准备不足，如果开战，难操胜券，只要日军不扩大事态，可以与其妥协，最好给予宋哲元以妥协标准，使其便于商谈。军委会参谋总长程潜也主张缓兵，以完成应战准备。唐生智则指出，宋哲元已在国民党中央许可范围之外从事妥协运动，“如中央再给以和平妥协之意图，则前途将不可问，冀察必非我有”，他认为可以采取一个灵活变通的办法，一方面，政府要表示强硬，另一方面，让宋哲元去继续妥协。如果结果不超出中央期望之外，中央可以追认，反之就予以否认。但是，这不过是权宜之计，军事准备仍然不可松懈。
两天之后，统帅部又讨论了是否对日绝交的问题。唐生智分析了宣告对日绝交的利弊，指出绝交以后日军可能会在长江腹地到处开战，这对我军是很不利的；不绝交，战争则可能在局部地带进行，但是，日军仍可处处自由行动，这对敌军是有利的。唐生智还特别提到若宋哲元签字撤兵中央该如何办理的问题。不过，随着日军的步步进逼，宋哲元等将领不久便放弃了和谈幻想，誓死进行抗战。
战争既起，如何进行，如何坚持，唐生智针对敌我双方国情进行了具体分析。他认为从战略上来讲，“我是弱国，故抗战须持久”，要求大本营在制定战略方案的时候，应立足于弱国这一现实。弱国在与强敌对抗过程中，“全国动员最为重要”。根据这一战略方针，他强调，凡一重要城池，非流血不放弃，但以大兵力白白牺牲则不可，应该以持久战消耗敌人为目的。历史证实，全民动员、持久抗战、消耗敌人的主张都是正确的，也是战胜日本帝国主义的重要法宝。可以说，唐生智对确定持久战方针是做了贡献的。
为了做好全国总动员的工作，国民政府准备成立总动员设计委员会来进行具体部署。在酝酿该组织人选时，唐生智指出有必要在当然委员中增加训练总监部副监。
从8月上旬起，驻沪日军又不断向中国守军挑衅，蒋介石下令集结京沪线各部队向上海推进，并命海军阻塞江阴水道。唐生智立即调动第八十七师、八十八师进入闸北、江湾一线阵地，严阵以待。8月12日，唐生智又赶赴江阴与旧部刘兴策划阻击日军在长江内河之兵舰，因内奸泄密，敌舰已先行逃逸。第二天，日寇在上海又发起了进攻，史称“八一三事变”。中国守军奋起还击，开始了淞沪抗战。尽管中国军队在战役初期占据着主动权，但是，唐生智还是主张上海战事不能长久打下去，只要拖住日军一个时候就可以了，应利用这个时机调整部署，做好长期抗战的准备。
鉴于南北均已开战，战线太长，国民党军队疲于应付，唐生智主张至少训练补充十至二十个预备师，作为机动，既可用于前方，又可控制后方。他的建议被当局采纳，陈明仁的预备第二师就是在这种情况下建立起来的。
“八一三事变”之后，南京政府发表了自卫抗战声明书，并颁布了中国军队战斗序列及作战指导计划，将全国划分为五个战区，京沪杭地区为第三战区。唐生智因军事理论与作战经验兼备、亲自主持制定淞沪防御计划、进行过军事演习，提出了许多可行的办法而被蒋介石内定为该战区司令长官。但是，蒋也知道唐身患重病，难以支撑，便征求唐的意见，唐称精神还是不好。于是，蒋改任冯玉祥为第三战区司令长官，让顾祝同负实际责任，并要唐照料军队调动工作，唐则欣然同意。但是，由于蒋介石控制了军政实权，冯玉祥根本指挥不动军队，甚至连情况都掌握不到。不久，蒋便亲兼第三战区司令长官，以顾祝同辅之。
唐生智虽未担任战区司令长官，但也担负着十分重要的工作，即主持修筑南京外围的国防工事、参加军队的调遣和各战区作战区域的调整。
9月24日，唐生智在苏州召集会议，部署吴（苏州）福（福山）线野战工事构筑事宜。上官云相、张钫、军事顾问鹰屋以及其他有关的幕僚参加了会议。会上决定：由上官云相担负整体战术上的指导，由杨钫负责技术上指导和材料的准备；吴福线工事分段由指定部队和民工建造，并限期分区召集各部队连长以上军官详加指示构筑阵地的一切要领与方法；工事进行程序，先完成吴福线本阵地，再构筑前进阵地和伪装工事；重点是加强和提前完成常（常熟）福（福山）段及公路两侧的工事；民工两万人，就近征集，限26日以前征齐；阵地之编成，由鹰屋顾问指导，并令杨钫率各机关部队构筑、采用、疏散、纵深、伪装，以期加强抗力，减少损害；开工日期预定为27日，并限于双十节前完成。唐生智一方面立即与顾祝同联名将此方案呈报蒋介石，另一方面又饬令各部迅速执行。
尽管唐生智进行了周密的部署，但是一旦运转起来还是遇到不少麻烦。10月2日晚上10时，唐生智从苏州打电话给钱大钧，要钱转告与蒋：（一）吴福线野战工事可在规定期限内完成。后方交通路前令江苏省构筑，并拨款八十万元，但至今一路未筑。（二）前令江苏省府征集木排加强江阴封锁线，但该省府却复电称无法办理。在这种情况下，工事之质量与效用可想而知。
唐生智在主持修筑淞沪防线的同时，对后方的国防建设也十分关注。当时，国民政府准备修筑湘桂铁路，以加强与西南的联系。但是，在设计湖南段线路的时候，提出了两个方案。一是从冷水滩经东安到广西，一是经零陵到广西。从东安到广西，地质比较稳定、毋须修筑铁路大桥、线路比较平直、造价相对较低。应该说是比较理想的线路。可是，当时零陵的驻军头目蒋伏生，囿于地方观念，硬把设计方案定为由冷水滩经零陵，过黄沙河到广西。只待湖南省政府批准后就可正式动工了。这时候，唐生智的父亲、他的旧部蒋锄欧都写信给唐生智，希望他出面干涉和扭转这个局面。唐生智审议了两个方案，权衡利弊，觉得他们言之有理，便及时向省政府建议，要求改变设计方案。省政府立即派人重新勘察，结果否定了原来的方案，决定把路线改为由冷水滩经东安，过全州，至广西。省政府指令东安境内的路基任务由东安人民承担，于同年10月正式开工。当时芦洪市区的民工由区长唐耀先担任大队长，进行组织。全县人民奋力苦干，终于在第二年的5月底基本上完成了东安境内的路基工程。
9月间，军事顾问斯达开向唐生智等人提出了一些建议，诸如：设法将从国外购买的鱼雷及炮弹尽快运到江阴；江阴之封锁，除船只水雷外，应再加圆材木料一层，以增强之；目前在后方无用的重炮应调至前方使用；上海方面的部队因不会使用防御战车之地雷，皆弃而不用，请派工兵学校人员前往指导。唐生智觉得这些建议“颇有可采之处”，便特地抄转军政部长何应钦，希望他“酌核施行”。
10月，根据不断变化的情况，唐生智主持草拟了第三战区与第五战区作战地域区分的方案，提出以扬州、泰县、海安、如皋之线为界，以北地区由第五战区负责，以南地区属第三战区。这一方案由蒋介石批转副参谋总长白崇禧下发执行。
唐生智还不时与蒋介石、何应钦、程潜、白崇禧、张治中等高级将领赴前线督师，鼓舞士气。10月某一天的晚上，唐生智一行在苏州火车站遭遇日机轰炸，因急避月台，幸而脱险。
张治中在淞沪抗战大场失守后，调充大本营管理部部长。蒋介石准备把国民政府迁往武汉，于是，对湖南的情况相当关注。当时，他找唐生智谈过一次，说何键在湖南搞得不好，在抗战时期恐怕他不能胜任，蒋打算把他调离，而让陈果夫或张治中来当湖南省主席。蒋问唐哪一个更合适。唐生智向来厌恶C。C。派的二陈（陈果夫、陈立夫），自然不想让陈果夫去执掌湖南，他对蒋说：“抗战时期，文白（张治中）是军人嘛，去湖南可能好一些。”过了一两天，蒋又派侍从室主任钱大钧把唐生智找去，并亲口对唐说，他想把何键调到内政部去当部长，让张治中到湖南去，表示已接受唐的建议。他还问唐对省政府委员是否有合适的人员推荐，唐生智则未推荐。11月底，张治中就任省主席以后，在湖南加强与共产党合作抗战，并倡导社会改革运动。
唐生智一开始就未对与日妥协存在幻想，而是全力以赴筹划抗战。从持久抗战到全民动员，从制定防御计划到建筑国防工事，从调查敌情到举行军事演习，从军队调遣到战区调整，无不倾注着他的心血、凝聚着他的智慧。
