魏晋南北朝是个制度紊乱的年月，但又是个各种创新初现的时代。后来在隋唐时期定型的三省六部制，实际上在魏晋已经出现雏形，只是还不够稳定。同时原来的三公九卿制依然存在，虽然更多地成为一种名誉官衔，但由于各自的机构不撤，所以，不排除特殊情况下，旧体制重新掌握实际权力的可能。但总的来说，新的三省实现制度替代的趋向还是明显的。双轨制的存在，是制度变迁过渡时期的一大特色。
1．中书省的出现，尚书台之权第一次分割
在西汉武帝时，由于君权扩张，除了尚书台开始扩大之外，皇帝身边的各种侍从和顾问也开始增加。其中有一些是备顾问和咨询的“文学侍从”，以各种大夫、议郎、给事的名义出入内廷。还有些是专门陪伴皇帝左右的，做些应手的事情，或者插科打诨，给皇帝解闷，以常侍、侍中等名目存在。做后一种侍从的，往往为士人和宦官，到了东汉，宦官逐渐多了起来。东汉灵帝时，成立侍中寺，赋予其“省尚书事”，即审查尚书起草的诏书的权力。东汉的覆灭，依附在朝廷大树上的宦官集团受到很大打击，于是进入三国时代，皇帝的侍从又恢复到了西汉时的状况。
这两部分侍从的前一部分，在魏代汉以后，逐渐演变成了皇帝的专门秘书班子——中书省，而后一部分则演变成门下省。显然，这种演变也是由于皇帝力图对权力直接控制的结果。自尚书台侵夺了丞相的权力，变成实际上的中枢机构之后，兼尚书事的重臣往往变成了事实上的丞相，而尚书台内朝的意义也随之变淡，实际上成了兼任尚书事重臣的附属机关。曹操在事实上取代东汉王朝后，用自己的幕僚为秘书，将本属尚书的草诏权拿了过来，直接掌握。朝代更迭之后，新朝为了强化君权，顺理成章地将秘书变成中书。特立机构中书省，将尚书台的权力分割出了一部分，专门负责起草诏书，掌机要，自然也就成了参与最高决策的核心机构。
中书省设中书监和中书令。副手为中书侍郎，其下有舍人、通事等属官。由于中书省设在宫苑，而且由皇帝的近侍顾问转成，所有王朝政令皆自所出，所以权威日重，人称“凤凰池”。虽然当时尚书令官阶还是比中书省长官要高，但一般士人均以在中书任职为荣，是第一号清要之职。西晋荀勖久任中书监，后迁为尚书令，人往贺之，勖怒曰：“夺我凤凰池，诸君贺我耶？”（《晋书》卷39《荀勖传》）对于权力欲颇重的荀勖来说，负责行政事务的尚书令，既没有掌握机要、出纳王命的中书监地位重要，也没有其富有荣耀感。实际上，自西晋以来，中书监、令已经成为高品势族的专有物。
2．门下省，从侍从到谏议
皇帝侍从中比较有文学才能、平时充当顾问的一部分，分出去成立了中书省，而比较纯粹的侍从也开始发挥作用。自秦汉以来，这一类的侍从杂用阉人，属于伺候皇帝的人，甚至连亵器虎子（尿壶）、唾壶都管，后世讥讽侍从出身的人，往往称之为“持虎子者”（《三国志》卷16《魏书，苏则传》注）。做的事虽然不堪，但由于能与皇帝近距离接触，所以依然被人看重。两汉有许多著名人物，像卫青、霍去病、霍光等人都是侍中出身，以滑稽出名的东方朔，也是个中人。魏文帝曹丕设侍中、散骑二曹，并令二曹长官侍中、黄门侍郎、散骑常侍、侍郎等，在尚书奏事时在坐。可见，侍中的地位已经凌驾于尚书诸曹之上，可以跟尚书令相抗诘。
进入晋朝以后，设立门下省和散骑省，但以散骑省隶属门下（后合而为一），长官为侍中、给事黄门侍郎。属官有散骑常侍、给事中、通直散骑常侍、员外散骑常侍、散骑侍郎、通直散骑侍郎、员外散骑侍郎等，有议论尚书奏事之职。在对尚书奏事说三道四的同时，由于其皇帝跟班的地位，所以还可以时常对皇帝的阙失提点意见，起拾遗补阙的作用。随着时间推移，门下省的权力越来越大，渐渐地开始对中书省起草的诏书发表批评意见，最后发展到在一定条件下，可以将不合适的诏书驳回重议，即获得了所谓“封驳权”。这样，就形成了对中书省的制约。同时，门下省也以这种特殊的方式参与决策，成为政治核心机关。至此，尚书台（南朝改省）的权限只限于行政事务执行，三省形成了中书出令，门下审核，尚书执行的分工制约机制。
在这种情形下，门下省的人员开始注重文学之士。不过，由于门下省官员依然是皇帝的侍从，所以，在人员挑选上，往往还注重“风姿”，即相貌的漂亮。在两晋南北朝期间，门下省的主要官员由于接近最高权力中心，参与机要，所以跟中书省一样，成为门阀的首选之职。
南朝宋代文帝时，王华为侍中，经常与皇帝接膝共语。孝武帝时，挑选侍中，讲究风貌，其中何偃深受宠爱，与武帝形影相随，一次同辇而行，车过门坎，颠了一下，何将倾倒，武帝马上将他接住，说，我是陪你的。（《南齐书》卷16）
3．尚书省分工的细化
原来无所不管的尚书台（省），现在权限被限制在行政执行上。虽然权力有所缩小，但事务比较专一，反而有利于其机构分工和职权细化。所以，在魏晋时期，尚书台的机构反而得到了扩大，办事人员成十倍地增加，负责的实际事务也大大增多。原属九卿的大部分管辖事务，也归属尚书台。只是到了这个时候，尚书台才不仅在实际上，而且在名义上从原来主管皇家事务的少府中分离出来，成为一个独立的政府机构。不过，由于魏晋南北朝是个过渡时期，制度的稳定性很差，加上作为执行机构，本身事务就比较繁杂，而这一时期政治格局本身变化也比较大，所以，比起后来的尚书省六部，尚书省的内部分工一直多半体现在尚书这一级，即后来部以下的司一级。在这一级上分工是明确的，但尚书以下各曹的归属比较混乱，往往几个似乎不相干的曹归在一个尚书门下。同时，机构设置也不稳定，尚书的数目时有增减，省下时而五尚书，时而六尚书，时而七尚书。每个尚书管领的部门有的比较有同一性，像吏部和度支，其他的仍然比较杂乱。魏为吏部、左民、客曹、五兵、度支五尚书；晋为吏部、殿中、五兵、田曹、度支、左民六尚书；东晋则减为吏部、祠部、五兵、度支、左民五尚书；南朝则吏部、祠部、度支、左民、都官、五兵六尚书，有时加一个起部，呈现出过渡时期官制变动不居的特征。
总括起来，这一时期的尚书省下面的各部尚书大概有这样几个：
（1）吏部尚书。
吏部尚书是从东汉的选曹尚书转化而来。它去掉了原任主管的祭祀之责，专管官吏选任、考核、升迁。自曹魏以来，吏部尚书一直处于各尚书首位，地位之高，权位之隆，有时甚至压过尚书省长官。自两晋以来，吏部长期为高门势族把持。渡江以后，更是王、谢家族的掌中物。南朝谢览，“三世居选部，当世以为荣。”（《梁书》卷15《谢览传》）虽然有时皇帝为了跟势族抗衡，故意找寒族人士担任，但往往不能长久。把持吏部是维持门阀政治的一个关键环节，所以，只要门阀势族的势力尚大，就不可能放手。为了维护势族高门垄断高官的局面，吏部尚书甚至可以公然对抗宰辅的旨意。东晋穆帝时，司马昱为宰辅，想要任命两个非势族出身的人做不大的地方官，可是吏部尚书王彪之居然抗命，认为即使如此，他们也不配。（参见《晋书》卷76《王彪之传》）渡江以来，历代皇帝和宰辅均有意削弱吏部权力，但均以失败告终，在门阀政治占主导社会背景下，吏部一枝独秀的局面是不可能改变的。
（2）度支尚书。
度支即国家的财政。自曹魏起，国家财政管理开始专门化，设度支尚书，分设主管国家收支、仓库管理、户籍管理、田赋管理以及货币和度量管理等曹（部门）。度支尚书掌管国家财政，属于政府的“财神爷”，权力也很大。但由于事务较繁，而且管理的是世族人士所不乐计较的金钱，所以，不算世族所热衷的清要岗位。
（3）祠部尚书。
这一时期，客曹与祠部往往混用。不过，这个部门主管的事务却比较固定，掌管礼制和祭祀，兼管外国来客。北朝的祠部有时还负责管理国家工程和屯田事务。
（4）左民尚书。
左民尚书有时又称右民，与驾部有混淆。左民尚书主管户籍，与度支有权限的重叠，同时，左民还兼管“工事”，即一般性的宫苑维修，以及国家手工业。凡有大的宫苑修建，就另立起部，事毕则解散机构，事务归左民。
（5）五兵尚书。
五兵尚书掌管军事事务。军官的升迁、考核，军队后勤事务等均属之。所谓的五兵，即中兵、外兵、骑兵、别兵和都兵。
（6）都官尚书。
都官尚书是从东汉的三公与二千石曹演化而来，但有时还设三公尚书，与都官混置。都官主管刑狱，审理贼盗案件，所以人称“贼曹”。
（7）殿中尚书。
殿中尚书主管宫中宿卫，管的是从前卫尉的事务，但卫尉之职并没有因此而去掉，反映了过渡时期的制度特色。
（8）田曹尚书。
田曹尚书有时也称屯田尚书，主管屯田事务。此部门在曹魏时非常重要，关系国家收支和兵源。但渡江后，屯田事务基本上没有了，故而此部门被裁撤。
（9）起部尚书。
起部负责皇家的宫苑修建。属于临时机构，有事则设，无事则省。一般事务归在左民尚书或者祠部尚书。
以上只是一个概要的说明，实际的部门设置，职能分工都要复杂得多，南北各个朝代、国家都有许多具体的变化。总的来说，有比较确定分工的有吏部、度支、都官（后来演化为刑部）、五兵（后来演化为兵部）。这几个部门也比较稳定，较少变动，而其他部门则处于分化演变之中。
