太原解放后不久，华北第18、19兵团编入第一野战军序列，参加解放西北的决战。1949年6月，郑维山率63军由禹门口渡过黄河，进军关中。抵三原后，便开赴乾县、礼泉以北山区，执行钳制麟游山区青海马步芳部及宁夏马鸿逵部，保证扶（风）眉（县）战役的进行。此役进展神速，兄弟部队在主战场经四天激战，歼胡宗南部四个军；青、宁“二马”慑于人民解放军的强大威力未敢出援，向陇东撤去。人民解放军副总司令兼第一野战军司令员彭德怀随即下令，以三个兵团零一个军的兵力追歼“二马”。63军于7月下旬沿西兰公路进击。“二马”原拟扼守甘、宁咽喉——平凉，与一野追歼部队决战，因都想保存实力，谁也不愿首膺其锋，未敢决战，又分别向兰州、宁夏撤退。63军首当其冲，一路追击，沿途除188师在瓦亭、任山河配合64军击溃宁夏马鸿逵一部，歼其5000余人外，没有打什么大仗，于8月20日直逼兰州近郊。此时，青海马步芳部，决计利用兰州天险，在胡宗南部及宁夏马鸿逵部配合下，与人民解放军决一雌雄。于是，在彭总指挥下，第一野战军发起了解放西北的决定性一役——兰州战役。
第一野战军投入攻城的兵力有八个军。63军的任务是占领窦家山，沿西兰公路从东向城区攻击。需要指出的一点是，郑维山在这次作战中与往常有些不同。因为他是西路军的幸存者，面对的正是当年的主要敌手，对往昔艰苦而又险恶的西征历程难以磨灭的记忆，对壮烈牺牲的众多战友的深情怀念，对无比野蛮残暴的“马家军”匪帮郁积多年的仇恨，胸中充满了复仇的怒火，以及今日有幸参加消灭这些仇敌的极大欣慰，这一切促使他凝成一种格外强烈的歼敌愿望，一定要迅速地根除这群匪帮，彻底讨还欠下的累累血债。他在作战的组织指挥上，一向是果敢而又细腻的，强烈的复仇心理使他的这种特点发挥得更加充分。
在短促的临战时间内，郑维山进行了大量工作。他结合亲身经历，向部队反复说明了“马家军”的特点。“马家军”不仅尚未遭受我军沉重打击，属于当今国民党军队中少数战斗力最强的部队，而且是一支长期依靠宗教迷信，一贯煽动回、汉对立建立起来的军阀部队。这支部队的士兵在欺骗宣传的蒙蔽下，不少人相信是为自己的宗教、民族而战，并相信战死可以升天，加之其内部督战队、执法队的严密监督，使士兵在战斗中能一往无前。匪徒们惯于赤胸袒臂、手舞大刀实施集团冲击，前面的倒下去后面的又冲上来，其疯狂性、野蛮性是其他国民党军队难比的。郑维山一再告诫部队一定要在精神上、物质上、战术技术上都做好准备，才能战而胜之，决不能轻敌大意。在充分的精神准备的基础上，郑维山带领各师长、政委详细勘察了窦家山的地形。
窦家山位于城东南10公里，海拔2089米，山势险峻，西兰公路由此通过，为兰州东部之天然屏障及进出孔道。抗日战争时期在山上修了永备工事，后经加修建成了以钢筋混凝土群堡与野战工事相结合的15个阵地，各阵地间有堑壕、暗道相通，可独立作战，又可相互支援。阵地前筑有7至9米的削壁和3至4道深宽各6米的外壕，在易于通过的地段设雷场、铁丝网，构成了坚固、完整的防御体系。在此守备的是号称“王牌师”的国民党军100师第2团及马步芳的警卫团和保安第1团。这预示着夺取窦家山将有一场恶战。根据地形和敌情，郑维山经研究决定：以189师并配属军炮兵团、工兵营担任主攻，以擅长打山地战的该师566团为主攻团，把突破口选在敌两个团接合部附近的第1号阵地上；将188师配置在189师侧后，扼制西兰公路，视情况或随时投入对窦家山的攻击，或沿公路直捣城关；187师以一个团于左侧十里山助攻，该师主力为军第2梯队。这一部署显示了他誓必砸开兰州东大门的坚强决心。攻坚决心既定，又周密地组织火力。根据当年西路军用棍棒作战的惨痛教训，他再三强调，充分发挥火力优势是突破敌阵、退敌反扑、大量消灭敌人的重要保障。按照他的要求，部队制定了详细的发挥火力的计划。炮兵将大口径炮组成炮群；步兵炮、战防炮尽量靠前配置，实施直接瞄准和抵近射击；各团迫击炮集中使用，伴随步兵前进，并当场组织步炮协同。与此同时，对各战斗阶段步兵的行动、炮兵的支援方法、射击手段和联络信号，都作了具体规定，逐炮明确了任务。步兵调剂了一些枪支，挑选了一批刺杀强手，组成有冲锋枪排和刺刀排的突击队，并配备手雷和炸药包，对付敌暗火力点。同时集中部分机枪，组成火力支援队，随突击队作战。组织部署之后，郑维山又到主攻团督促检查，把各项战前准备工作全部落到实处。
8月25日，人民解放军兰州前线部队向兰州发起总攻。10点20分，63军开始进攻窦家山。经近百门火炮半小时的火力急袭，窦家山前沿工事及火力点大部被摧毁，步兵师团很快突破了窦家山阵地。尔后的纵深战斗进行得非常激烈，部队每夺取敌人一个碉堡、一块阵地，都经过激烈的拼杀或击退敌反扑。战斗过程中，63军共打垮敌人相当营团规模的六次反扑，其中最大的一次是在部队攻占1、3号阵地后，敌人组织约一个团零一个营连续进行的全线反扑。面对敌人的全线反扑，郑维山指挥担任主攻的189师，除用一个营担任侧翼警戒外，将其余八个营梯次摆开，准备依次投入战斗；同时命令187师加紧对十里山攻击，188师给前沿阵地输送充足的弹药。他特别要求担任主攻的部队，不但要固守阵地，而且要多消灭敌人，为尔后的进攻创造条件。敌人的反扑开始后，其情形同当年与西路军作战没有多少差别，先是歃血宣誓、喝符祈祷，然后在督战队监督下，手举大刀，以密集的队形呼啸而上，来势甚为凶猛。由于63军做了充分准备，步炮协同得好，敌人的反扑首先遭到炮兵猛烈轰击，炮弹落处敌人一片片倒下去，待敌靠近前沿时又遭机枪、冲锋枪的猛烈射击，敌人又一层层倒下去，即使这样，还有许多敌入突入阵地，最后以肉搏解决战斗。这是一场大血战，整个战斗历时近七个小时，189师完全占领窦家山阵地，敌人伤亡惨重，遗尸遍野，绝大部分被消灭在阵地上。
在63军占领窦家山前后，各兄弟部队也都胜利完成作战任务。一日之间，敌人设置的兰州天险被全线突破。“马家军”总指挥马继援（马步芳之子）惊恐万状，仓促下令连夜向黄河以北撤退，因上下都毫无准备，陷入一片混乱。这时，郑维山接到187师报告，发现十里山守敌逃跑，他立即命令188师火速追击，抢占东关。军前指和187师主力亦进至东岗镇。当晚，先头部队与已占领黄河铁桥的第二兵团的部队会合。此时，大部敌军拥挤在黄河岸边，车马人员乱作一团，很快被第一野战军歼灭。一部分企图泅水逃跑的敌人，全部吞没在滔滔黄河水中。兰州宣告解放。称霸西北的马步芳主力部队丧失殆尽，从而为第一野战军迅速解放西北全境创造了条件。
兰州战役后，十九兵团奉命进军宁夏，以63军为先锋。9月初，郑维山率63军北上，以两个师为右梯队，沿兰宁公路进击；一个师为左梯队，沿黄河北岸推进。9月7日克靖远，15日攻占景泰迫敌一个骑兵旅投降，16日在枣林堡、马家滩等地溃敌一个师，歼敌两个团，17日左右两梯队逼近中卫城。在人民解放军强大压力下，9月19日马鸿宾率81军起义，中卫解放。郑维山率部渡过黄河继续北进，直指银川。20日，银川国民党守军宣布接受和平条件，宁夏全境遂告解放。
当部队进入银川时，郑维山登上城垣，仰望蓝天，他以恶贯满盈的“马家军”被彻底根除、西北大地即将全部解放，默默告慰西路军的英烈们。
1950年，郑维山升任十九兵团副司令员。1951年2月，他同杨得志司令员一起率部入朝参战。4月，十九兵团参加了第五次战役，胜利地完成了志愿军总部赋予的任务。之后，朝鲜战场敌我双方在三八线附近形成对峙局面。7月，美、李军被迫接受停战谈判，但无诚意，又发动夏、秋两次攻势，均被志愿军粉碎。郑维山在19兵团期间，主要是协助兵团司令员杨得志开展工作和指挥作战。
1952年6月，郑维山调任志愿军二十兵团代理司令员，为时一年又一个月，时间不长，但却充分显示了他智勇兼备的指挥才能。他到职后，冒着敌人的炮火亲自察看了前沿各主要阵地，同大部分师团干部及部分基层干部和战士进行了广泛交谈。他在深入调查研究的基础上，对敌情、地形和部队情况作了认真分析，形成了实施坚守防御的基本设想。他认为，只有以坚固阵地为依托，才可能对优势装备的敌人有效地实施坚守防御。因此，他主张应首先在现有基础上，进一步加强阵地建设，尽快形成以坑道为骨干部，与堑壕、交通壕相连硅，大纵深的防御体系，并加强物质储备，确实做到能打能藏。他还依据志愿军司令部赋予兵团的防御任务，进一步明确提出了部队作战的基本要求：一是敌向我大举进攻时，第1梯队在纵深兵力、火力支援下，要坚守团的一线基本阵地，大量杀伤敌人，为2梯队反击创造有利条件，尔后经过反复争夺，达到粉碎敌人进攻的目的；二是对小股敌人的袭扰，应视为送上门的礼物，要坚决组织反击，力求全歼，不要满足于把敌人打退；三是敌人不来，我应主动实施战术反击。他对这种反击设想了三种打法：一种打法是抓一把，即对敌前沿利于我攻击的敌人，采取速打、速歼、速撤的方法，抓一把就走。第二种打法是打敌反扑，即利用敌有失必反的特点，选择敌适当阵地，攻占后迅速改造地形，集中优势火力，大量杀伤反扑之敌，适时撤出战斗。第三种打法是固守阵地，即对改善我防御态势有价值的敌阵地，攻占后要与敌反复争夺，坚决固守。以上三种打法，不论实施哪种打法，都要精心筹划，周密组织，务求达成预定目的，决不打无准备、无把握、无便宜的莽撞仗。他认为，实现这些设想的关键，在于明确树立积极歼敌的思想。因为归根结底，只有大量歼灭敌人的有生力量，才能巩固与扩大我军阵地，改变敌我的防御态势。
郑维山的这些设想，得到了兵团其他领导人的大力支持，经过师以上干部认真讨论，在部队中进行了深入的传达贯彻，较好地统一了全兵团的作战思想。随后，部队掀起了备战热潮，一面加紧建设阵地，一面由领导与群众相结合，选目标，摸敌情，拟方案，练战法，积极进行战术反击的准备。
1953年9月20日，二十兵团遵照志愿军司令部的统一命令，发起战术反击。由于部队思想一致，准备充分，战斗进展非常顺利。作战两个月，夺敌阵地23处，打敌反扑400余次，歼敌万余人。战后，部队斗志高昂，积极选点，纷纷请战。郑维山说服各级指挥员认真总结经验，并亲自深入部队同指战员们一起剖析战例，总结攻击目标与突破口的选择、固守阵地打反扑、炮火使用与协同等多方面的具体经验。在各军总结的基础上，兵团专门召开师以上干部会作了系统总结。通过这一由下而上的活动，提高了部队反击作战的能力。之后，各军都选了一些点，分别作反击准备，一经批准，说打便打，打则能胜。反击规模也由歼敌一个班、一个排，发展到歼敌一个连、一个营。敌人再不敢到志愿军阵地来耀武扬威了。最终把前沿斗争的焦点推到敌方阵地上去了。****中央和中央军委对志愿军这次作战评价甚高。******形象地把这种打法称做“零敲牛皮糖”的战法。****中央和中央军委的贺电指出：“这种作战方法继续实行下去，必能制敌死命，必能迫使敌人采取妥协，最后结束朝鲜战争。”
1953年5月，为迫敌接受停战协定，予敌以更沉重打击，志愿军司令部决定发起夏季战役。战役确定分三个阶段进行：第一阶段，主要是攻占敌前沿支撑点，为下一步进攻扫清道路；第二阶段，夺取敌第一防御地带内营以上阵地；第三阶段，拉直金城以南战线，把我军防线推到敌第二防御地带去。这里值得特别一提的是，郑维山提出了夺取883.7、949.2高地的大胆设想。该阵地地势险要，设防严密，由敌一个加强团凭坚固守，与我阵地有深沟相隔，相距较远，我炮火无法覆盖。而且敌处居高临下，可用炮火封锁，阻我步兵接近。夺取敌占高地难度较大。郑维山经多次勘察，主张大胆地在战前把步兵潜伏到敌阵地前的密林里，把炮火集结到敌我阵地之间，方可一举夺取。他认为，在敌人眼皮底下潜伏部队和集结炮兵，虽然是冒险之举，但由于出敌不意，是很可能成功的。他认真检查了执行这一任务的部队的临战准备工作，会见了担任潜伏的六个连和另两个排的全体同志。他看到潜伏部队准备非常充分，士气非常高涨，更增强了胜利的信心。
这次战役，自5月13日开始，进展相当顺利，至6月23日，即完成了第一、第二两个阶段的任务。其中夺取883.7高地和十字架山等战斗，都取得了完全胜利。战斗开始后，敌人还未弄清是从哪里飞来这么多炮弹时，我步兵已出现在面前，敌军顿时大乱，阵地很快被我全部占领。仅第二阶段，二十兵团即歼敌4万余，扩展阵地约75平方公里，将敌人的防线撕开了一个大口子，并彻底摸清了敌第一防御地带内基本阵地有团预备队阵地的情况，为下一步进攻创造了极为有利的条件。
7月3日，郑维山在兵团召开的作战会议上，作了战役反击第一、二阶段总结，提出了实施战役第三阶段计划。在这之后，郑维山奉调离开二十兵团到志愿军司令部，准备回国。战役第三阶段即金城战役，13日打响，二十兵团经一昼夜作战，即达到战役目的，肃清了金城以北之敌，拉直了金城以南战线。
郑维山在志愿军二十兵团的这段战斗经历，充分表明了他在运用******积极防御的军事思想上已有颇深的造诣。
1953年7月27日，以美军为首的“联合国军”被迫在停战协议上签字。郑维山于8月返回祖国。为表彰他的功绩，朝鲜民主主义人民共和国授予他一级国旗勋章，一级独立自由勋章。
1954年秋，郑维山进入南京军事学院战役系学习。未届期满，翌年初奉调回京。主持中央军委工作的彭德怀两次要他出任华北军区（后改为北京军区）主要领导职务，他都陈词自己政治水平低，难以胜任，愿充当副职，协助能者进行工作。之后，他被任命为华北军区副司令员。
1955年秋，郑维山被授予中将军衔，荣获一级八一勋章，一级独立自由勋章，一级解放勋章。
郑维山一贯坚持从严治军。他认为，搞好教育训练及作风、纪律建设，是部队平时提高战斗力的唯一途径。因而，他对部队、机关建设抓得很紧，要求干部认真学习现代战争知识和科学技术。1964年他还亲自参加组织部队群众性大练兵的开展。在****推行“突出政治”、批判“单纯军事观点”的时候，他仍拥护和坚持罗瑞卿总长提出的“两个不退”（即军训和生产不要退下来）的工作方针。
对华北军区的设防，郑维山更是不遗余力，不论是20世纪50年代对东线设防，还是60年代对北线设防，都做了大量工作。尤其是对北线设防，从工程布局、勘察定点，直至施工、验收和总结推广经验，他事必躬亲。他为此踏遍了华北大地的山山水水，爬过了所有重要山头。对全区主要坑道和其他战备工程的位置、情况，他如数家珍，无不熟知。由于他精心筹划，严格管理，华北军区国防工程的进度、质量、节约、安全等，多年处于全军的领先地位。
郑维山担任华北军区和后来的北京军区副司令员达14年之久，工作扎实，成效显著，为机关、部队建设和华北设防作出了重要贡献。
在军事和政治两者之间，郑维山的长处在前者。他有丰富的实战经验，有应付战场复杂情况的胆识，有率领部队克敌制胜的能力。相对来说后者却不如前者，特别是对党内的政治斗争，他既缺乏经验又缺乏应付复杂情况的能力。他对这方面的弱点从不讳言，常讲自己的政治水平低。1955年他推辞不任军区主要领导职务，也正是出于这种原因。但不幸的是，1966年发起的“**********”，却把他卷入了一场空前复杂的政治旋涡中去。他完全是凭着一个老共产党员的政治素质，渡过了那段艰难的岁月。
“**********”开始后，郑维山被抽到******总理和叶帅领导的首都工作组的警卫组工作，主要任务是维护首都安全和组织接见红卫兵。他按照要求完成了周总理和叶帅交办的各项任务。1967年1月，北京军区政委廖汉生、司令员杨勇，被****、江青一伙相继整倒。在事先未征求郑维山意见的情况下，周总理代表****中央和中央军委宣布由他主持北京军区工作。正值****之秋，他没有再向总理提出异议。从此，他一面工作，一面挨整，步履蹒跚地渡过了近四年的工作时间，随后被关押了整整八年。
他对这场“**********”，从一开始就很不理解。尤其对于众多老一代无产阶级革命家和一大批领导干部被整倒，红卫兵抄家造反，社会秩序大乱，他深感不安。对于一向舞文弄墨的“******”，遽然于党和军队之上发号施令，他非常反感，甚至顶撞江青。江青要整倒调到广播事业局不久的丁莱夫，郑维山力保丁莱夫是好人；江青提出“文攻武卫”的主张，郑维山不解地说：“文攻”我懂，若实行“武卫”，部队的“五不”（打不还手、骂不还口等）该如何执行？公开表示不满。郑维山对于****“敬而远之”。在他主持北京军区工作期间，四次奉召晋见，都是偕其他领导人一同前往，他个人同这位“林副统帅”没有任何往来。因此，****一伙把他视为篡党夺权的障碍。****为此编造了“晋察冀山头主义、华北山头”的罪名，并用这种罪名大乱北京军区三次。
第一次是在1968年“杨余傅事件”之后，****大造“晋察冀山头”和“华北山头”的舆论，江青立即加以解释，说什么“华北山头主义有历史性”，“聂荣臻、罗瑞卿，还有杨成武、郑维山、傅崇碧，都出在华北。华北是坏人当道”。于是，在聂帅主持工作的国防科委，在杨成武主持工作的总参，在郑维山主持工作的北京军区和傅崇碧主持工作的北京卫戍区，同时展开了大反“华北山头主义”的运动。这次运动的目标，显然是要把曾在华北工作的一批人一网打尽，而其中又把北京军区当成“华北山头主义的窝子”和“基础”，所以用了很大的力量。在****指令召开的北京军区党委第十二次扩大会上，黄永胜、吴法宪、谢富治等全上阵，叶群在会外煽风点火，以后****、江青亲自出马，大闹了50多天，终因毛主席和周总理出面干预，郑维山才未被整倒。
第二次，在1970年底******反党问题发生之后，****、江青又把“华北山头主义”同******扯在一起。江青在华北会议上大放厥词，说：******是华北山头主义的“政治头头”、“太上老子”，华北山头是******反党的“后盾”，郑维山是******的“武将”，******、郑维山伙同反对****等等。这次终于改组了北京军区，把郑维山幽禁起来。
第三次，在1971年****事件之后，江青等把“华北山头主义”又从******那里拿来挂在了****的名下，说“北京军区是****经营多年的山头主义窝子”，郑维山是****的“大将”等等。事后，郑维山被逐出北京，解到安徽一个农场管制，直到粉碎“******”两年后才返回北京。
值得称道的是，在那段艰难的岁月里，郑维山还是为人民做了些好事。他主张地方工作应由地方上的同志去做，部队支“左”人员应尽量“少派”、“快收”。1969年经周总理同意，他用办学习班的方法，解放了地方厅局以上干部数百人。后因被康生、江青指责为“没有刘邓的刘邓路线”，学习班办了3期，被迫中断。在内蒙“挖内人党”后，根据****中央决定，1970年郑维山率前指进驻内蒙，做了大量工作，经一年的时间，基本扭转了局面，稳定了内蒙的形势。在粉碎“******”后，郑维山对“晋察冀山头、华北山头”的问题，多次向****中央提出申诉。1979年****中央根据他的申诉，经过认真调查，终于彻底平反了这一冤案。郑维山也做过些错事，说过些错话。但是，根据由总政起草经****中央和中央军委同意的对他的结论，他在“**********”中并无大过。
1982年底，郑维山被任命为兰州军区司令员。这时他已年近古稀，但工作热情不减当年，依然风风火火，马不停蹄。为落实中央军委的战略方针，他带领机关、部队干部3次勘察地形，跋涉于西北高原，行程7万余公里，详细修订了西北战区的作战预案。随后，他又组织了全区师以上干部和团以上干部的战役战术集训，亲自参加授课，多次组织现场研讨，在战役、战术、工程建设上落实了作战预案，统一了作战思想，较好地解决了部队平时训练与未来作战任务相结合的问题。
郑维山积极执行****中央********邓小平关于军队协助西北地区搞好绿化、造福后代的指示。他造舆论、搞调查、访专家，协同地方大搞绿化。在他任职期间，兰州部队无论是在营区还是帮助地方植树种草，都有很大发展，西北人民把他和军区部队誉为绿色的使者。中央军委绿化委员会工作组经过检查，认为兰州军区的绿化工作“认识高，发展快，成绩大，影响好”。
郑维山在兰州军区工作了三年多，他勤勤恳恳的工作精神和扎扎实实的工作作风，给机关、部队留下了深刻印象。他竭尽全力完成了一个老同志的光荣使命。
1986年，郑维山当选为中央顾问委员会委员。此时他正致力于总结作战的历史经验。
半个多世纪以来，郑维山在严酷的战争和坎坷的政治生涯中经受了锻炼。复杂、丰富的斗争实践，不仅使他增长了才能，磨炼了意志，而且养成了优良的思想品质，突出的是：他无限忠于党和人民的事业，对党赋予的任务，一贯积极负责，全力以赴，战斗中不避刀斧，工作中不辞辛劳，几十年兢兢业业，从不惜力，直至晚年，斗志依然不衰，他把自己全部的精力和智慧，都奉献给了在中国实现共产主义的神圣伟业。郑维山的政治品质是很高尚的，他谦虚好学，不谋高位，不务虚名，服从组织，尊重领导，对分内之事敢于大胆负责，果断行事，对需要请示的问题不僭越职权。他文化程度虽低，但讲求实际，善于体察情况，集中群众智慧，重视总结经验，他的才能主要得益于实践中的刻苦汲取。他胸怀坦荡，作风正派，对上级敢于提出不同意见，甚至据理争辩，不畏权势，不计安危，而对同志以诚相见，光明磊落，不徇情面。他对个人的缺点错误敢于进行自我批评，不加隐讳，因而所到之处，均能得到机关、部队的信任。这是郑维山在不同岗位上能够作出较大贡献的重要思想基础。
