炎、黄二帝在黄河流域建立起第一个部落大联盟。部落联盟的首脑机构是部落首长议事会，酋长通过定期的会盟形式商讨各部落的大事，调解各部落间的纠纷。《史记·五帝本纪》记载：黄帝经常带领各部首领巡行万邦，征讨不服。黄帝与蚩尤的战争就是炎黄部落联盟为黄河中、下游平原的归属问题所进行的一场战争，从当时战争的时间之长、规模之大，反映出这个部落联盟人数很多，力量很大，最后终于击败对方夺取了黄河中、下游这块天然沃壤。
黄河中、下游冲积平原，土壤松软、肥沃，气候温和、多雨，是发展原始农业的理想地区。当时没有铜器、铁器，生产工具主要是石器、骨器和木器。相传神农氏“断木为耜，揉木为末”，耜是一种用石器削尖的木棒，耒是弯成曲形的木制工具。这样的生产工具在黄河中、下游冲积平原的沙土地带才能掘土耕种，进行农业生产，夏禹的功绩首先是疏通河道，排除积水，扩大耕地面积，为农业生产提供了良好的自然条件，中华民族的祖先首先就是在这里从游牧转向定居，发展农业生产，创造出新石器时代的高度文化。今天我们说“黄河是中华民族的摇篮”，道理也就在这里。
随着生产的发展，私有制的出现，于是产生了国家。最初，部落联盟的首领在执行议事会决定时，如解决争端等，“他们被赋予了某种全权，这是国家权力的萌芽。”这种情况在夏禹初期任部落大联盟首领时，似乎已经有了这种全权了。《史记·夏禹本纪》所记禹王的功业我们不能完全相信，但是他后期确实在黄河流域中、下游地区的各部中以“国王”的权力执行任务。尽管他实际控制的范围开始并不大，对其他部落的指挥权只是在联盟议事会的旗帜下进行的，但他是指挥者，实际上行使着国王的职能。当然这种职能很微弱，萌芽状态的国家机器也非常松散，和今天的国家职能不能相比，它的基层单位仍然是一个个的氏族、部落，氏族首领、部落酋长照常处理自己单位的日常事务，解决纠纷和误会。但是，以禹王为首，以他所在的部落为核心，联合邻近部落建立的国家组织，开始在我国黄河中游今河南、山西地区开始出现了，是中国这片土地上建立的第一个国家。
商朝的建立，把夏的国家机器向前发展了。私有制的发展，交换的频繁，奴隶的大量使用，阶级对立的出现，使国家和它拥有的军队已经不是为了保卫部落安全而设，而是成了阶级统治的工具。商朝政府对本族的奴隶要进行统治，对被征服的部落要实行统治，对尚未征服的部落还要通过会盟的形式迫使其承担一定的义务，对不按时参加会盟的部落首领要实行制裁，“自彼氐羌，莫敢不来王，莫敢不来享”，就是这种关系的反映。商的国家组织内部成员大致分为三等，一等是商族及其亲属部落，是核心；被分封为王侯镇守一方的是二等；只承认服从商王，承担一定义务，但不归商族直接管理的是三等。如文王为西伯侯是二等，氐羌是三等。
周的疆土比商更加扩大了，国内分封诸侯实行统治，内部结构更为复杂。周室所辖的同姓诸侯国和异姓诸侯国达一百多个，还有许多说不清楚的小国，他们的地位及其同周王室的关系也不一样。
据《国语》记载，周分诸侯国承担的义务为五等，即甸服、侯服、绥服、要服、荒服。而《周礼》和《逸周书》记为九等。这种机械地按五百里分等的说法虽不能令人相信，但由于距离远近，同周族关系亲疏、本身力量强弱等原因的不同，对周室分别承担各种不同的义务，则是事实。王畿和同姓诸侯的贡赋多，参加朝会的次数多，而要服、荒服，也就是说当时华夏以外的四夷部落，只承认宗周、贡献一点特产，也就够了。
但是，这种“服”关系非常重要。是周政权对各地统治程度的具体体现，也是处理民族关系问题的不同政策。凡属诸侯国统治的地方统治阶层已经华夏化，有的地方被统治阶级也是华夏人，如中原地区夏、商统治过的地方等；有的侯国，诸侯自己还开辟了大片领地，如晋、燕、齐、鲁等，他们的统治中心处在狄、夷包围之中，要通过自己的努力扩大华夏势力。“戎、狄荒服”是一种不定期的贡献关系。中原发达的经济、文化吸引四夷与周朝建立联系，承认臣属关系，使商品交换得到保护，部落安全得到保证。《史记·匈奴列传》记载：“武王伐纣而营洛邑，复居于丰、鄗，放逐戎夷泾、洛之北，以时人贡，命日荒服。”说明西周初年匈奴的祖先曾隶于周，属荒服。《后汉书·南蛮传》载：南蛮在“唐、虞，与之要质，故日要服。”“逮于周室，党众弥盛；宣王中兴，乃命方叔南伐蛮方，诗人所谓蛮、荆来威者也。”“楚师既振，然后乃服，自是逐属于楚。”“秦昭王使白起伐楚，略取蛮夷，始置黔中郡。”这是南蛮经过千余年统一于中原王朝的大致过程。《后汉书·西羌传》称：“殷室中衰，诸夷皆叛。至于武丁，征西羌、鬼方，三年乃克。”此西羌还是泾河、渭河流域的羌人，不是河、湟羌人。在泾渭的此部羌人从周族兴起以后，大部分融合于周族之中，其上游地区仍“荒服不朝”。“及忍子研立，时秦孝公雄强，威服羌戎，孝公使太子驷率戎、狄九十二国朝周显王”，其中就包括河湟以东的许多羌族部落。
“要服”是带有某种强制性的臣服关系，“荒服”则是不经常的臣服关系。李贤注云：“荒服，在九州之外也，言其荒忽无常。要服，在九州之内，侯卫之外，言以文德要来之。”这两种臣属关系虽然都是周王朝处理民族问题的政策，但却根据不同情况，加以区别。荒服往往是要服的第一步，并不断向后者发展。
这种“服”虽然是名义上的服从关系，却为经济、文化的交流提供了许多方便。由于相互文化渗透的结果，不断加强了这种隶属关系，促进了统一的进程。战国时最强的国家楚、秦，就是通过这个道路列入华夏，而秦又在此基础上统一六国，建立了中央集权制的封建大国。秦统一后废除了“要服、“荒服”等制度，而以新的形式代替。秦朝对三十六郡边塞之外向中原表示臣服的部落、部族，称为“属邦”、“属国”，朝廷专门设置机关叫典属国，管理他们的事务。属邦和属国实质是一样，汉朝为了避刘邦之讳。一律改称“属国”，把秦朝的这种制度继承下来，称秦的属国仍为属国。汉朝政府设置属国始于武帝元狩三年。《汉书·武帝纪》载：“元狩二年……秋，匈奴昆邪王杀休屠王，并将其众合四万余人来降。”同书《霍去病传》：“分处降者于边五郡故塞外，而皆在河南，因其故俗为属国。”
从元狩三年开始，西汉政府曾设置安定、天水、西河、上郡、五原、张掖、金城等七个属国，都在边郡塞外，以处理归附的少数民族部落。东汉初年哀牢王率部归附，以其地东西三千里、南北四千六百里为越崔西部属国。东汉末年还曾在巴郡一度设置过巴东属国。但是东汉大批增置属国是在永初元年国内民族矛盾激烈，西羌大起义之时。汉安帝为了缓和国内民族矛盾，将原属郡、县管辖的少数民族地区划分出来，设置属国，实行与郡、县不同的管理制度，这个时期设置的属国有广汉西部属国、蜀郡西部属国、犍为南部属国、张掖居延属国、辽东属国等等。
属国是在汉朝政府统一管辖下，少数民族自己管理自己的一种行政单位。属国的最高长官是汉朝政府任命的属国都尉，族别不限。属国的基层单位是部落，领导人是部落的首领百长、千长等，具体负责本部落的事务。属国吏民不承担赋税，但要向政府进贡，属国骑士有负责维持地方治安的义务。属国内部的生产和生活按照各民族的风俗习惯组织安排，汉朝政府不加干涉。这种制度，作为中原王朝统一管辖的一种特殊政权形式，是受到少数民族拥护的。西汉、东汉政府都采用这种形式，处理民族矛盾，解决民族问题，最后都达到了预期的目的。
汉朝还有两个更大的没有称为属国的“属国”，这就是西域都护府所辖的“西域三十六国”和呼韩邪归汉以后南单于庭所辖的部落和地区这两个“属国”，西域三十六国的最高长官是西域都护，其下为各国的国王，有的就是部落首领：管辖匈奴各部的是汉朝政府册封或承认的单于，汉朝另派使匈奴中郎将，协助、监督南单于及其各部首领的工作。汉朝政府当时这样处理西域和匈奴问题，是从当时的实际情况出发，其结果在政治上实现了全国的统一，在经济上更有利于相互交流，促进生产持续向前发展。
晋永嘉以来，司马氏政治衰败，在中国北方相继建立起许多少数民族首领执政的政权，如汉（赵）、燕、秦、魏等。这些政权的建立者大部分原是汉代属国制度管辖下一些部落的后代。如刘渊自称是南匈奴单于之后，这话虽不能相信，但为匈奴后裔，甚至是休屠部的后裔大概可以肯定。南匈奴和匈奴休屠部曾是汉朝的属国吏民。鲜卑曾属辽东属国管辖，氐与广汉属国有关，羌与金城属国有关等。这些民族经过数百年间与中原汉族亲密交往，上层的大部分人已经具有较高的汉化程度，而其部属的一部和大部还保留着原来游牧部落的生产和生活习惯，与中原农业经济相差较大。这些政权的统治者在执政以后加速自身的汉化，用汉族文化、典章制度建立并加强自己的政权，但对各族部落牧民，也包括他们所在民族的部落牧民，如何实行管理，就成了这些政权的新课题，从汉（赵）到燕，他们曾实行两套管理系统，管辖国内吏民。
对于中原汉族和从事定居农业的各少数民族地区，仍实行秦、汉以来的郡县制，由中央到地方按原制度管理，只是州郡大小的划分有所变化而已；而对民族地区，设置了专门机构，中央叫单于台，领六夷各部。
刘渊初建政权，自称大单于；永嘉四年称帝，国号汉，以皇太弟领大单于。刘聪继位，置单于左右辅，各主六夷十万落，万落置一都尉。刘曜继位于长安，改国号赵，“置单于台于渭城，拜大单于，置左右贤王以下，皆以胡、羯、鲜卑、氐、羌豪杰为之”，单于台的制度完整化了。单于台治所虽在京都附近，而其所属或在郡县塞外，或是从塞外徙居内郡的部落。
石勒原来就有东单于的封号，灭前赵后自立为帝，即以其子弘为大单于。后以大单于位授其子弘，石季龙大为不满，“启以勋高一时，谓勒即位之后，大单于必在已”，并说“成大赵之业者，我也。大单于之望实在于我，而授黄吻婢儿，每一忆此，令人不复寝食。”这说明大单于位置之重要。实际上大单于之号多为皇储担任，地位仅次于皇帝。诸国政权这样重视六夷，说明六夷在巩固政权中的作用非常重要；六夷部落在单于台管辖下也曾支持了这些政权。
隋唐统一以后，原汉代所属的属国地区和十六国所属的六夷地区大部分划人州、郡、县，与原来的州郡县等同，而对新归附的民族、部落设立羁縻州领护。《新唐书·地理志》云：“唐兴，初未暇于四夷，自太宗平突厥，西北诸蕃及蛮夷稍稍内属。即其部落列置州县。其大者为都督府，以其首领为都督、刺史，皆得世袭。虽贡赋版籍，多不上户部，然声教所及，皆边州都督、都护所领，着于令式，”这就是羁縻府州。唐朝设置的羁縻府州，“突厥、回纥、党项、吐谷浑隶关内道者，为府二十九，州九十。突厥之别部及奚、契丹、靺鞨、降胡、高丽隶河北者，为府十四、州四十六。突厥、回纥、党项、吐谷浑之别部及龟兹、于阗、焉耆、疏勒、河西内属诸胡，西域十六国隶陇右者，为府五十一，州百九十八。羌、蛮隶剑南者，为州二百六十一。蛮隶江南者，为州五十一，隶岭南者，为州九十二。又有党项州二十四，不知其隶属。大凡府州八百五十六，号为羁縻云。”
上述诸府州有的本是内郡地区，后因迁移来新的归附部落而改设；有的是部落根据地在别处，临时侨治于内郡某地而设；少数从汉代以来就是中原王朝以属国性质对待的少数民族地区，至唐代仍为羁縻地区，如西域的部分地区；有的是唐朝新开拓的疆土。也有一些地方是唐朝声威所及，遣使贡献，唐以其地编为府州，如西域府十六、州七十二，大多数属于这种情况。这些府州虽然都是羁縻，但唐朝政府具体对待也不一样，党项一府、七十三州在吐蕃向东扩张时，唐朝曾多次出兵保护。在唐、蕃势力对比唐不能抵抗吐蕃兵力时，遂将松州、维州的羌夷部落大批迁入陇右，另行安置，保护部落的生产和生活。但是，对于葱岭以西地区的羁縻州，只能量力而行，多数保留名义上的贡属关系。
唐朝采取设置一般府州和羁縻府州两套行政管辖制度，是从当时的实际情况出发决定的。对汉、魏、晋以来归中原王朝管辖，而且基本汉化的地方，政令不需要继续加以区别，就统一在普通府州县，派官置守，征收赋税，这是巩固前代的成果；对条件尚不能按统一政令管辖的地方和民族以及新开拓的地方，设立羁縻府州，这是发展。对发展部分如何进一步加强政治上的统一，经济、文化上的密切合作，是唐朝本身的任务，也是唐代留给后继者的任务。
契丹族建立的辽国，党项族建立的西夏国，女真族建立的金国，这是他们通过自身的努力改变其地位的表现。这三个民族所在地区在唐代大都是羁縻府、州所管，羁縻政策为他们同中原进行政治、文化、经济交流开辟了广阔的途径。到了唐代末期，他们中间已经涌现出一批汉文化造诣很深，掌握汉族典章制度比较熟练的代表人物。五代迭兴，他们陆续进入中原，建立政权。这些政权从表面上看是分裂政权，是割据性的，但实质上是向国家的统一前进了一大步。政权是形式，政权所反映的社会制度以及影响政权的思想文化，是问题的实质。
“物质生活的生产方式决定着社会生活、政治生活以及一般精神生活的过程。”政治是这种生活的集中表现。契丹、党项、女真等民族在唐朝的影响下生产方式和社会制度迅速发生变化，由没有阶级向有阶级的社会发展。促使这种变化的外因是唐朝的封建制度，他们在生产和社会制度等方面开始出现许多和唐朝占统治地位的经济、文化相同的东西，社会越发展，这种相同的东西也就愈多。建立国家以后；政权是分立的，经济、文化是相通和相同的，主要方面几乎是一个格式，而是在次要方面根据游牧部落的社会组织制定了相应的官职和法规。
