挥军华南地区，解放广州，任广东省人民政府主席，又主持华南地区工作。调回中央，为新中国的军事工作作出多方建树。“文化大革命”中同林彪、“四人帮”反革命集团进行了坚决的斗争。
随着全国解放战争胜利推进，1949年7月，中共中央决定，组成新的中共中央华南分局，由叶剑英任分局第一书记，统帅由第二野战军第四兵团、第四野战军第十五兵团组成的独立兵团，向华南进军。
叶剑英受命后即离开北平南下，于9月上旬到达江西赣州。叶剑英随即主持召开华南分局扩大会议和全体入粤干部会议，着重研究解放广东的部署及接管城市和乡村的重要政策。同时，召开作战会议，讨论制定了解放广东的作战计划。
从9月30日开始，叶剑英和陈赓等指挥的独立兵团分路向广东敌军发起攻击。10月14日，广州解放。叶剑英先后被任命为广东省人民政府主席、广州市长兼军事管制委员会主任、中南军政委员会副主席。
广州局势稍为稳定之后，叶剑英奉中央军委之命，参与领导海南岛战役。在琼崖纵队的有力配合下，1950年5月1日，解放了海南岛。
国民党从华南溃败以后，各地仍残留小股国民党潜伏的特务武装和大批土匪武装，对新生的革命政权和人民生命财产是一个严重威胁。叶剑英根据中共中央关于剿匪的指示，组织部队和地方干部，发动群众，集中力量剿灭广东地区的匪特武装，巩固了革命政权，保证了城乡生产及其他工作的顺利开展。
1950年11月，叶剑英奉中央军委和毛泽东之命，与陶铸等到广西南宁，与张云逸主持召开省委扩大会议，研究部署了广西剿匪工作。经过1年的时间，广西省委、广西省军区领导广大军民基本完成了广西全境肃清股匪的任务，建立和巩固了城乡各级人民政权，恢复和发展了生产。
1953年5月，叶剑英调任中共中央中南局代理第一书记、中南军区代理司令员。1954年10月，叶剑英奉命调回北京，先后担任中央人民政府革命军事委员会委员、中华人民共和国国防委员会副主席、中国人民解放军武装力量监察部长。1955年4月，任训练总监部代部长，主持全军的军事训练工作。叶剑英还率中国军事代表团出访，发展了我军同一些国家军队和人民之间的友谊。1958年3月，叶剑英建议并受命创办军事科学院，任院长兼政委，并兼任高等军事科学院院长。1959年9月，叶剑英任中共中央军委常委。不久，担任军委军事训练和军事学术研究委员会主任。他在主持全军军事训练和军事科学研究工作中，坚决贯彻中共中央、毛泽东制定的积极防御的战略方针，参与领导研究国家防御作战问题；主持制定正确的科研方针、原则和方法，建设科研干部队伍；主张军事训练和军事科学相结合，以总结我军的经验为主，探讨在现代条件下的人民战争指导规律；组织辽东半岛方面军抗登陆战役中集团军海岸防御的军事演习，从实践中摸索总结训练和作战的经验，主持制定人民解放军一系列条令条例；多次主持召开全军院校会议，进行教育改革，提高教育质量；倡导郭兴福教学法，开展群众性练兵活动；参与领导军事科学技术发展工作，为把人民解放军建设成一支现代化正规化革命军队，为坚持和发展毛泽东军事思想，作出了多方面的建树。
1966年，在中国大地上开始刮起了“文化大革命”的旋风。
这时的叶剑英任中共中央军委副主席、中央书记处书记、中央军委秘书长，主持军委日常工作。他为了抵制“文革”风暴，坚持党的领导，稳定军队，保护老干部，在自己职权范围内采取了一系列措施，同林彪、江青两个反革命集团进行了坚韧不拔的多种形式的斗争。
1967年，从上海开始向全国各地卷起了“一月风暴”。林彪一伙配合“造反派”的夺权斗争，抛出了“揪军内一小撮”的反动口号。一时间，全国各大军区和各总部、各军兵种的许多负责同志遭到揪斗，被逼得东躲西藏，无处可走，直接间接地找到叶剑英求救。
主管军委日常工作的叶剑英一时成了“救火队长”。他请求周恩来，尽最大努力，采取紧急措施，做好保护老干部的工作。叶剑英在西山的驻地，一时成为庇护老干部的“防空洞”。楼上、楼下、床上、地板，都“地无空席”。叶剑英在极端困难的条件下，还特意对“来客”做好医疗护理，但揪斗之风越刮越猛。
叶剑英顶风而上，聂荣臻等同林彪、江青一伙在各种会议上展开面对面的交锋和斗争。1月10日，叶剑英在政治局会议上，针对林彪、江青等搞乱军队的问题，激动地说：地方越乱，军队越要稳。内忧必然引起外患，稳定军队是党和国家的根本利益!
由于叶剑英等坚持斗争，1月14日，中共中央发出了《关于不得把斗争锋芒指向军队的通知》。《通知》强调军队担负备战和保卫国防的任务，不许任何人、任何组织冲击人民解放军的机关，这对缓和局势，稳定军队发挥了重大作用。
但是，以军乱军的“妖风”仍在狂吹不已。
1月19日下午，中央军委在京西宾馆开碰头会。会议的中心议题是：军队搞不搞“四大”。会上，江青、陈伯达、姚文元串通一气，异口同声叫嚷：军队要坚决支持群众开展“四大”，军队不能特殊，要和地方一样搞“文化大革命”!叶剑英和聂荣臻等军委其他领导人坚持维护军队的稳定，反对在军队开展“四大”。叶剑英坚定地说：军队是无产阶级专政的柱石，战备任务很重，负有保卫党中央、保卫毛主席、保卫社会主义祖国的重大责任，军队稳不住，敌人入侵无法应付。坚持党对军队的绝对领导，是毛泽东军事思想和建军路线的一个根本原则。纪律是执行路线的根本保证，三大纪律的第一条就是一切行动听指挥，步调一致才能得胜利。如果开展“四大”，必须发生无政府主义，什么个人服从组织，下级服从上级，都是一句空话。
在“大闹京西”之后，叶剑英主持军委碰头会议，同徐向前、聂荣臻等其他几位军委领导同志商量，一致认为军队要搞个法，搞个命令，搞个章程，不能把军队搞乱了。于是，在林彪口授的“七条”基础上，制定了军委《八条命令》，报请毛泽东批示照发。
叶剑英等在贯彻落实军委《八条命令》，又主持制定了《中共中央军委关于军以上领导机关文化大革命的几项规定》(即七项规定)，进一步规定了稳定军队的具体措施。1969年夏，毛泽东与叶剑英亲切握手。
“八条命令”和“七条规定”相继颁发后，立即消除了一些地区的混乱现象，保证了部队的正常秩序，受到全军指战员和地方干部、人民群众的热烈拥护，一时挫败了江青一伙乱军夺权的阴谋。叶剑英根据“命令”和“规定”，亲自批发电文，相继解决了成都、青海、新疆、南京、内蒙、甘肃、广州等地军事机关和领导干部被“造反派”围困之灾。
林彪、江青一伙不肯罢休，蓄意挑起新的纠纷，双方斗争愈演愈烈。
1967年2月14日和16日，周恩来在中南海怀仁堂主持召开政治局碰头会。在这两次会上，围绕着“文化大革命”要不要党的领导，应不应将老干部统统打倒，要不要稳定军队等重大原则问题，展开了针锋相对的斗争。在2月14日下午的碰头会上，叶剑英站起来责问康生、陈伯达、张春桥一伙，你们把党搞乱了，把政府搞乱了，把工厂、农村搞乱了!你们还嫌不够，还一定要把军队搞乱!这样搞，你们想干什么？……上海夺权，改名为上海公社，这样大的问题，涉及国家体制，不经政治局讨论，就擅自改变名称，又是想干什么？他质问陈伯达：我们不看书，不看报，也不懂什么巴黎公社的原则。请你解释一下，什么是‘巴黎公社的原则’？革命，能没有党的领导吗？能不要军队吗？”
2月16日下午，继续开碰头会，这次会议，斗争更加激烈。会上谭震林、陈毅、李先念、余秋里等继续对“文革”错误提出批评。散会后，张春桥、王力、姚文元于当晚整理出歪曲事实、捏造罪名的《2月16日怀仁堂会议》材料，由江青安排，向毛泽东汇报。18日夜，毛泽东召集部分政治局委员开会，对“大闹怀仁堂”的一些老同志提出严厉的批评。林彪、江青、康生、张春桥等人把“三老”、“四帅”诬为“二月逆流”，并进行多次批判。
叶剑英并未被逆流冲倒，而是破浪搏击，继续尽自己最大努力解决全国各地“造反派”围攻部队问题，保证了部队稳定。
2月下旬，叶剑英报请毛泽东批准，和几位元帅一起主持召开了军以上干部会议。参加会议有各大军区、各军兵种、各总部军以上干部100余人。叶剑英动员大家反映部队正面教育、军事训练、三支两军、军政关系，以及机关被冲击和反冲击等各方面的问题。他在大小会议与个别交谈中，作了数次发言，就“文化大革命”应当怎样看，部队如何搞法，怎么处理军队与地方(包括“革委会”和“造反派”)的关系等一系列复杂棘手的问题谈了自己的看法，作了明确的指示。
叶剑英在极其艰难复杂的情况中，同林彪、江青两个反革命集团机敏巧妙地进行着各种形式的斗争，维护部队的稳定局面，保护各位元帅和老同志。
后来，叶剑英虽然被迫离开军委领导岗位，并下放工厂参加劳动，但他对国内外政治形势极为关注。1969年3月，发生苏联边防军悍然侵入我国神圣领土的“珍宝岛事件”。3月18日，他同其他几位元帅就国际形势问题向党中央、毛泽东写了报告，提出了七条具体建议。3月下旬，他受毛泽东、周恩来委托，同其他几位元帅一起多次研究了珍宝岛反击作战问题，并根据研讨的意见由他负责整理了一份《从世界的森林看一棵珍宝岛树》的报告上呈毛泽东。《报告》站在世界全局高度分析了苏联突然入侵珍宝岛原因、目的及其发展趋势，进而揭示了美苏称霸全球的战略企图，与各国之间的矛盾斗争，提出了加强战备、民兵建设、军事训练、军工生产等一系列具体建议。
党的九大以后，叶剑英和陈毅、徐向前、聂荣臻等几位元帅，受周恩来之托，多次讨论国际形势和战略问题，在会上叶剑英作了几次很有见解的发言。在陈毅主持下，整理成一份书面报告，向党中央和毛泽东主席、周恩来总理提出了外交方面的建议，对打开中美关系提供了依据，为制定新的重大战略决策作了历史性的贡献。
1970年7月16日，叶剑英突然被告知由长沙返回北京，接着于8月20日飞往庐山参加党的九届二中全会，会议期间，林彪、陈伯达一伙大搞抢班夺权的阴谋活动，叶剑英坚定地站在毛泽东一边，旗帜鲜明地与他们进行了坚决的斗争。会后，他按照毛泽东、周恩来的指示，带领调查组到福建、广东、广西、湖南、湖北等地，调查陈伯达的反动历史，揭穿其政治骗子的面目，为“批陈整风”做好准备。
1971年9月13日，林彪企图谋害毛泽东主席的阴谋败露，仓皇叛逃，机毁人亡。
不久，叶剑英受命重新以军委副主席身份，主持军委日常工作，他认真贯彻毛泽东的建军思想和关于统一军队、整顿军队、准备打仗等一系列重要指示，在全军范围内，深入开展批林整风运动，恢复和发扬我军的光荣传统，加强战备和军事训练。
这一时期，叶剑英还受毛泽东、周恩来委托，积极参加国家外事活动。先后参加秘密来华访问的美国总统国家安全事务助理基辛格，美国总统尼克松和日本国总理大臣田中角荣。1973年，又协助周恩来接待第二次来访的基辛格，为建立中美、中日外交关系作了卓有成效的工作。
1973年8月，在党的十届一中全会上，叶剑英当选为党中央副主席。
1974年1月叶剑英奉命同邓小平一起指挥西沙自卫反击作战，取得了重大胜利。
