你们要鼓起勇气，挑起担子，事情就是压出来的，要主动挑担子。年轻的同志多向老同志学习，多向老同志请教，拜他们为师，必要的会议请他们参加。老同志要主动、热情地帮助年轻的同志。你们要坚持民主集中制，大事要广泛征求意见，然后集中起来。就是要发扬民主，不要各行其是，不要搞一言堂。要搞五湖四海，不要搞帮派，对干部不要分亲疏，办事要公道。比如你和我虽然关系很好，但办事还是要坚持原则，办事没原则，就是没有党性，或叫党性不强，就应进行批评。这样，你们就可以搞出一个生动活泼的局面来。
经过习仲勋的辛勤工作，他所联系的部门的机构改革都进行得很顺利。通过改革，党中央直属单位局级机构减少百分之十一，工作人员总编制缩减百分之十七点三，各部委的正副职减少了百分之十五点七，在新的领导班子中新选拔的中青年干部占百分之十六，平均年龄由六十四岁降到了六十岁，正常的干部离退休制度建立起来了。
在谈到机构改革的成果时，习仲勋说，这次改革之所以进行得比较顺利、比较快，受到党内外、国内外的普遍好评，原因是：一、领导决心大，一开始就下定决心，抓住不放，一抓到底；二、坚持走群众路线，改革方案几上几下，反复酝酿；三、老同志从革命大局出发，站得高，看得远，发挥了比较好的作用。
正值中直机关机构改革进行之际，一九八二年六月，中共中央决定“各省、市、自治区党委可参照中央党政机关机构改革的精神和做法，结合本地的实际情况，酝酿制定机构改革方案。条件成熟的地方，在机构改革方案报经中央批准后，可在下半年开始进行；条件不成熟的地方，可先做酝酿准备，明年开始。”省级机构改革从一九八二年十月开始到一九八三年三月基本结束。在此期间，为了推进各省市区领导班子年轻化，习仲勋多次约请有关省市领导人谈话，做深入细致的思想工作。
一九八三年二月，习仲勋到福建省就干部“四化”、地方机构改革、领导班子建设和改进工作作风等问题进行专题调研，中共福建省委第一书记项南陪同他实地考察了福州、泉州、厦门、漳州和闽北山区。
二月十七日，习仲勋在厦门召集厦门市领导谈话。当他看到在座的既有年龄较大的老同志，又有中青年干部，还有妇女干部时说，今天这个会很好，来的干部中有老的，有新的，还有年轻的女副市长，你们在新老合作和交替方面带了头。新老要交替，要合作，非这样办不可，这是历史发展的规律。现在最重要的是要积极选拔一些德才兼备的优秀青年人上来，老同志要大力扶持他们工作。从历史上看，马克思、恩格斯，以及许多有成就的人，干事情时都在三十岁左右，三十几岁是最能干事的时候。
习仲勋强调，现在我们就是要宣传这个思想，要大胆提拔年轻人，要热情支持和积极帮助他们工作。对青年人，把担子放在他们身上才能锻炼出来，不压担子，永远也不行。我们老同志都是这样过来的，所以要给青年人压担子，要给他们加责任。已经和将要到领导岗位上的年轻同志，一定要认识到自己的担子很重，既要虚心学习，又要大胆工作，要有一股闯劲；要勇于和善于开创新局面。我们老同志要有这个觉悟，站好最后一班岗，保持晚节，在我们去见马克思之前看到新秀都健康地成长起来，我们也就放心了。如果我们现在不下决心调整班子，不自觉进行新老交替，选拔青年干部上来，那是要贻误党和国家大事的。现在，我们有些公社党委书记五十岁，许多县委书记五十几岁，还有六十多岁的。如果再不抓紧进行新老交替，再过十年，那时我们各级领导班子成员的年龄状况会老化到什么程度呢？
他说，当前摆在我们面前的一项很重要的任务是挑选干部。从今年开始，各省、市、自治区每年都要从大学毕业生中挑选一批，不是让他们坐机关，而是让他们下去，到一个公社去，到一个大队去，到一个工厂去，锻炼几年，然后逐步地择优选拔到各级领导岗位上来。这是培养德才兼备干部的一条重要途径，是一项战略措施。挑选人才，品质是最重要的，当然还要有才，就是德才兼备。大学生不一定才都好，但文化水平是成才的基本条件，要尽量高一些。大家都要从自己的实际出发，努力学文化，提高文化水平，在这方面要抢时间。选拔、推荐年轻同志进领导班子，要群众推荐，光上面几个人选拔不行。说张三李四好，要群众公认才好，群众不批准，你就得不到群众的支持，什么事也办不成。
习仲勋还对老同志提出了殷切希望。他说，我们老同志退下来，超脱一些，还可以做些事，甚至可以比在职时做得更多，做得更好。中央有个经验，就是现在有很多事情都是请老同志去做。中央组织了一个调整配备省、市、自治区领导班子的指导小组，宋任穷同志负责；还新组织了一个中央和国家机关机构改革工作小组，薄一波同志负责。这两个小组的成员大部分是中央党政机关各部门退下来的老同志。我们老同志要有自知之明。可以回顾一下自己的过去，看看对一些重大问题的处理，是对的，还是错的？在紧要关头，是做对了，还是做错了？现在去总结，对自己、对工作都有好处，对搞改革也会有帮助。多年来有一条经验，就是一个人不可能什么事情都是事前诸葛亮。毛主席也不是什么事情都是事前诸葛亮，他也是根据实践，根据他个人的实践，千百万干部、群众的实践，才能总结出一套正确经验，进而把这些经验上升为革命理论。但当他背离了这些根本原则的时候，也免不了犯错误。所以说，一个人能当事后诸葛亮也是很高明的。
在讲到党和机关作风问题时，习仲勋严肃地指出：
现在，有些部门官僚主义、分散主义、本位主义比较严重，工作上瞎指挥，各自为政，这怎么行呢？我们中央机关和各级领导机关，都要抓大事，抓方针政策问题，抓思想倾向问题，要放手让下面的同志大胆工作；要为下面的同志服务，给下面的同志以正确指导，帮助他们解决困难，而不能给下面找麻烦，增加负担。要在机构改革中切实解决好这些问题，改进领导作风和领导方法。
今年的事情很多，但要抓住重点。要进行省、市、自治区和地、市两级的机构改革，以及经济体制改革；上半年还要选人大代表，开六届人大；下半年要开始整党。机构改革既要精兵又要简政。毛主席在《为人民服务》中提到的李鼎铭先生是个爱国绅士。他当时是陕甘宁边区政府副主席，精兵简政就是他提出的，毛主席采纳了他的意见。现在精兵还没有完全搞好，简政更没有搞好，还是过去那么多文件，那么多的报表，那么多的材料，你这个情况简报，他那个情况简报，使人没有办法看。我的秘书每天送给我看的文件、材料连十分之一都没有看，一些机关有的事本来用一个钟头可以办完，非得拖几天不可。所以，体制要改革，规章制度和工作方法、作风也要改革。要定机构，定编制，定业务范围，不要因人设事，要因事设人。人员宁可少一点，但要精一点。机关也要搞责任制，分工负责，既然由你负责，在一定时间内搞不好你就得下来，让有才能的人去干。
三月十日，习仲勋就福建的调查研究情况向中央写出《关于福建见闻的报告》，肯定了福建省的机构改革工作，同时根据干部群众的意见向中央建议加快机构改革步伐，通盘考虑机构改革和经济体制改革问题。习仲勋在福建闽北山区调研时，发现了林业生产上的一些问题，为此专题撰写了《闽北山区建设和林业政策中的几个问题》的报告。回到北京后，习仲勋把这两份报告上报中央领导同志。
习仲勋返京时路经长沙，与中共湖南省委第一书记毛致用等就进一步加快改革，扩大对外开放问题进行了座谈。他指出，省与省之间的协作很重要，特别是像湖南这样的内陆省，要同广东、福建等沿海省份建立联系，互相支援，共同发展。
三月二日，习仲勋与万里、宋任穷、陈野萍在北京召集山西省霍士廉、罗贵波、李立功等十三位同志座谈机构改革和领导班子建设问题，宣布了山西省新的领导班子。
经过一段时间的工作，调整配备各省、市、自治区领导班子的工作大部分已经结束，但还有少数省份因多种原因没有调整到位。甘肃省就是这样，由于省委领导班子成员之间存在一些隔阂，有一些意见，班子调整迟迟不能到位。习仲勋对此极为关注，先后三次同甘肃省的九位领导同志谈话，了解情况，沟通思想，消除误会，听取他们对领导班子配备人选的意见。
三月三十一日下午，习仲勋和宋任穷召集中共甘肃省委的十一位负责同志到北京开会，研究甘肃省领导班子问题。习仲勋指出，中共甘肃省委从宋平同志主政以来，对党的十一届三中全会的路线、方针、政策是坚决贯彻执行的，工作是有成绩的，这是主要的，必须加以肯定。由于十年“文化大革命”，以及各种原因，各级领导班子一般都存在着老化问题。这次调整配备班子都要朝着革命化、年轻化、知识化、专业化的方向努力。在座的中共甘肃省委的领导同志，除一人五十九岁外，其余都在六十岁以上。当然，同志们工作时间都很长，很有能力、很有经验，做了很多工作，这些中央都是清楚的。中央要求各省区领导班子的配备三月份搞完，甘肃不能再拖了，这次请你们来就是要解决这个问题。他针对有些人对甘肃省进十二大人选的不同意见说，我参加了十二大人事安排工作，如果有些不周到的地方，引起你们误会，主要由我承担，不能推到其他人身上。由于习仲勋耐心细致的工作和主动承担责任的精神，使中共甘肃省委的领导成员消除了隔阂，达成了共识，一致表示支持中央的决定，新的领导班子的配备工作很快得以完成。
一九八三年三月，全国机构改革结束，中央机关和省、地一级的机构及干部人数普遍减少，领导班子年龄普遍下降，文化程度普遍提高。
由于习仲勋在领导中直机关机构改革和省部级领导班子调整配备中坚持原则、任人唯贤、公道正派，取得了很大成绩，得到了中央的充分肯定，并赋予了更大的责任。一九八三年四月十四日，中央书记处决定：以后凡各省市自治区人大、政协副职配备的报告，不必再提交书记处讨论，由中央组织部报习仲勋、胡启立同志批准即可。习仲勋深感责任重大，对干部的选拔任用更加慎重，严格把关，使一批德才兼备、年富力强的同志走上了领导岗位。
在机构改革中，一项重要的工作就是要建立健全包括干部的选拔任用、教育培训以及离退休干部的生活待遇、医疗保障等在内的各项规章制度，习仲勋为此倾注了心血。习仲勋与万里一起，按照一九八二年二月十五日中央书记处会议的决定，组织中央组织部、国家人事局制定了老干部离职休养的制度，使我国干部离退休步入正常化轨道。
