府兵制是创立于西魏大统年间（535—551年）的一种兵制，起源于鲜卑旧有的部落兵制，因为设立了军事组织单位兵府而得名。
北魏早期就已有军府之制，到武帝拓跋珪平定中山以后，即以八部兵，改置八军，设立军府。这种军府，直到北魏末期还一直存在。军府成员，多是鲜卑族人。宇文泰接替贺拔岳统领其部众时，其成员是以六镇中武川镇兵户为主的，这些兵户也是鲜卑族人或鲜卑化的汉人。当时宇文泰直辖军队的人数并不很多，只有数千人，加上收降的侯莫陈悦的部下，以及随孝武帝元修西入关中的劲旅，合起来共约三万人左右。孝武帝入关前，宇文泰便把他的军队分为十二军，每军各置一将统帅。孝武入关后，十二军的编制未变，但各军人数有都所增加。十二军将领分别是李弼、独孤信、梁御、赵贵、于谨、若干惠、怡峰、刘亮、王德、侯莫陈崇、李远和达奚武。西魏大统三年（537年），东、西魏沙苑之战之时，宇文泰曾率此十二将出征。沙苑大捷后，宇文泰被进为柱国大将军，十二将也纷纷进爵增邑。大统八年（542年）三月，宇文泰在十二军的基础上，又“初置六军”。从编制上讲，“六军”是比原先十二军更高一层的军事单位；从性质讲，十二军的部落兵制的气息比较浓厚，而六军的汉化特征则更为明显。次年，东、西魏又发生了邙山大战，西魏军队损失过半，关陇地区的鲜卑族人口本来就不多，战争长期不断，使宇文泰政府军的兵源越来越少。在这种情况下，宇文泰开始大量吸收汉族豪强及其部曲乡兵来加入政府军，于是采取了“广募关陇豪右，以增军旅”的重大措施。即给一些拥有部曲、乡兵的汉族豪强地主加封帅都督的官号，并把他们和他们手下的武装纳入政府军系统。如太原阳曲人郭彦，移居冯翊，大统十二年，被选为当州首望，“领乡兵，除帅都督”。又如京兆杜陵人韦瑱，世代为三辅首姓，也是“以望族，兼领乡兵，加帅都督”。又如任城人魏玄，在邙山之投后，率义徒还关南镇抚。大统十四年，被给予帅都督、东平郡守。从此，掌握在豪强手中的私兵转变成为国家的军队，汉族豪强地主也摇身变成为西魏军事将领，西魏军队的人数也随之增加了。
宇文泰又对直属中央的军队加以改组，这就要利用旧日鲜卑八部之制的形式，设立八位柱国大将军，他自己虽是其中之一，却以都督中外诸军事之职凌驾于其他柱国大将军之上，掌握着最高军事指挥权。西魏宗室广陵王元欣尽管也是八柱国大将军之一，但只是虚职，不实际掌握兵权。另外，他任命李弼、李虎、赵贵、侯莫陈崇、于谨、独孤信六人为柱国大将军，由此六人分别统率六军。在六军的每位柱国大将之下，各设二位大将军，共12大将军；又在每个大将军之下，各设两个开府，共24个开府；每个开府之下，又设两个仪同，共48个仪同，每个仪同领军一千人，每个开府领军二千人，每个大将军领军四千人，每个柱国大将军领军八千余人，六军总数约不到五万人。这就是西魏当时的府兵数量，也就是直属朝廷的主力军的人数。另外在各地州镇和边地，还有大量镇守地方的军队，这些归州镇督帅指挥。
鲜卑旧有的部落兵之间存在着一定的氏族关系，宇文泰建立府兵制后，保留了这种特点，并且下令让军功高的将领继承旧日鲜卑的三十六国，以军功稍次的将领继承旧日鲜卑的九十九姓，“所统军人，亦改从其姓”。即然诸将被定为三十六国、九十九姓的继承人，其姓氏也应依从三十六国、九十九姓的姓氏，于是又引出复姓和改姓的活动。除侯莫陈氏、独孤氏、豆卢氏、贺兰氏等本来就是鲜卑旧姓外，凡孝文帝时改变汉姓的鲜卑将领又恢复了原来的姓氏，如于氏，仍旧恢复为原来的勿忸于氏。汉族将领则要改变汉姓而为鲜卑姓氏，例如赵贵被赐姓为乙弗氏，李弼被赐姓为徒河氏。李虎被赐姓为大野氏，杨忠被赐姓为普六茹氏，王雄被赐姓为可频氏等。他们统率的士兵，也随了他们改后的姓氏。
府兵建立后，便成为西魏的“禁旅”，兵士的地位也由六镇的戌边战士上升为类似“羽林军”、“虎贲军”的中央禁卫军。府兵统属于六柱国大将军，有一定的独立性，但宇文泰又以都督中外诸军事的职务，将各军指挥权统归在他一人手中。除他以外，任何人都不能调遣六军。宇文泰死后，六军指挥权又移至他的继承人宇文护手中，诸军“凡所微发，非护书不行”，可见府兵制的建立，是有利于集中军权，统一指挥的。
为使府兵的兵员能够得到源源不断的补充，西魏政府又从均田的农民中选拔府兵，具体规定为，在六户中等以上农民家庭中，从一个有三丁之家中抽一男子充当府兵。凡充当府兵的人，免除租调和徭役，加入军籍。府兵有战争时就要出征作战，无战争则“十五日上，则门栏陛戟，警昼巡夜；十五日下，则教旗习战”。北周建德元年（572年），北周武帝宇文邕杀宇文护后，派人前往相府收取兵符，终把最高军权收回手中，下令“改诸军士并为侍官”，使府兵成为名副其实的禁卫军，但这时府兵仍然另有军籍，仍然是兵民分治。不过府兵成员结构已经发生了很大的变动，主要由于周武帝广募均田农民加人府兵，“是后，夏人半为兵矣”，使府兵中的均田农民数量大增。这样既扩大了兵源，又为府兵制与均田制的结合奠定基础。
府兵制在发展和变动中，与鲜卑族原先的部落兵制越离越远，而与土地关系则日益紧密，到隋开皇十年（590年），隋文帝杨坚进一步规定：“凡是军人，可悉属州县，垦田籍帐，一与民同。”至此，府兵制与均田制完全结合在一起了，府兵也由兵农分离完全走向兵农合一。
府兵制的创置和逐步完善，对西魏和北周来讲，都起了重大作用，具体表现为士兵人数大量增加。兵源有了保证，经历了长期战争而兵员却是越来越多，至北周最后一次进攻北齐时，军队已发展到20万人左右。北周也正是藉此才能攻灭北齐，统一北方。
