东西魏打了几场大战，都需要整修。于是五年间双方相安无事。就像暴风雨前的黎明，这短暂的相安无事预示着两魏之间的一场大战即将来临。果然，公元543年，两魏再燃战火，这就是著名的邙山之战。
驻守虎牢的东魏北豫州刺史高慎杀了镇城（城中守将）奚寿兴，以私家军队占领了虎牢并向西魏投诚。虎牢是洛阳以东的军事要冲，自春秋以来就是兵家必争之地。宇文泰喜出望外，立即加封高慎为侍中、司徒，并亲自率大军前往接应。
高慎是河桥之战中战死的高昂之兄。据说，高欢之子高澄想要强暴高慎的妻子未果，高慎怀恨在心，终于杀了守将叛变，投靠西魏。得知高慎叛变的消息，高欢惊怒交加，立即率去年围攻玉壁的10万大军南下河桥，力争保住虎牢。河桥位于洛阳东北，为西晋年间杜预所建，是当时黄河上的唯一桥梁。河桥规模宏大，在黄河两岸各有一个桥头堡，加上设在中间的沙渚上的堡垒，称为“河桥三城”。此时，西魏军以太子少傅李远为前锋已经进入虎牢。宇文泰则亲自率军围攻河桥南城，试图阻止高欢渡河，为全面占领河南争取时间。
三月初二，高欢兵临黄河，此时宇文泰尚未攻下河桥南城，整条河桥仍然在东魏控制下。宇文泰形势不利，只有一面向西退军，一面派人在黄河上游放出许多条火船，企图将河桥烧毁，让高欢无法渡河。东魏方面早有防范，斛律金派人在河桥附近用一百多条小船排成长队，船上拉了一条长长的锁链，来了个“铁索横江”。每当有火船接近时，东魏军就用铁索将火船钉住，让它无法靠近河桥。河桥安然无恙，东魏大军渡河而南便无法阻挡。宇文泰向西撤退到瀍水（洛水支流，在洛阳西北）附近。把守住绕过邙山南下洛阳的要道，以阻止东魏军进一步南下。
邙山位于洛阳以北，黄河以南，是当年汉晋帝王的陵墓所在。东魏军所在的范围，就是河桥之战的旧址、邙山与黄河之间的狭长地带。对高欢来说，这是一个很尴尬的位置，向东，后方易被袭击，向西，通道又被西魏军卡住。高欢的对策是：面朝西方，依邙山为阵，坚守阵地而不冒进，以牵制宇文泰。
高欢沉得住气，宇文泰的大军却被牵制难行，在虎牢的先锋部队也和主力军隔开，形势岌岌可危。僵持十多天后，三月十七日夜里，宇文泰终于放手一搏，命西魏军轻装开拔，主动出击。第二天早上，侦察骑兵报到高欢的指挥所：西魏军吃了干粮后就已东来，距离自己只有四十多里。高欢知道对方一夜行军后一定很饥渴疲累，笑道：“这些人渴都渴死了，还用我来杀吗？”命令诸军严阵以待。很快，西方天边出现了一道黑线，西魏第一批轻骑兵已经铺天盖地而来。
高欢依邙山为阵，西魏军遂向邙山脚下南转，东魏军两翼由机动骑兵防卫，彭乐因而率右翼的数千名骑兵自东北方向横击西魏军左侧。西魏军正面受挫于高欢军严密的步兵防线，侧后方又受到彭乐部的猛烈夹击，因而左翼崩溃。彭乐趁势率部插入到冲锋的西魏骑兵与西魏军后方的中军营帐之间。彭乐上次在沙苑受了重创，连肠子都被捅了出来，险些没送命。这次他率领数千骑兵冲破西魏军左翼后，正好插入骑兵和步兵之间的空隙，宇文泰在后方的中军大营就失去了屏障。彭乐的任务本来只是从北面打击西魏军的左翼，此时看到通向敌人指挥部的道路已经畅开，大喜之下，不及向高欢请示，就率大队骑兵直冲西魏军后方而去。
此时，宇文泰和其他高级将领大都在前线指挥作战，后方大营中除了一些中级军官外，主要是宇文泰带来的一批元魏宗室，宇文泰本意大概是将他们留在身边以便监控，以免趁自己带兵在外在后方捣乱。等到彭乐的大队人马风驰电掣般冲进西魏大营，营中的西魏官兵还来不及转移这些重要人物，局势就已经被彭乐所控制。西魏临洮王元东、蜀郡王元荣宗、江夏王元升、巨鹿王元阐以及詹事赵善等48名较重要的人物沦为俘虏。彭乐派人将这些俘虏押送回来，向高欢告捷。高欢大喜，忙派人将这些俘虏押到阵前去示众。
西魏军从昨天晚上急行军，又从早上鏖战到下午，早已饥渴疲累之极。战斗进入最艰难的时刻，西魏将士忽然见到本该在后方的一批军官宗室被东魏士兵押了出来，脖上架刀，将士们以为后方已经全部沦陷，军心大乱之下，攻势全盘瓦解，全军陷入了乱哄哄的溃逃。东魏军上下抖擞精神，乘胜反攻，斩首三万余人。
宇文泰在撤退中还想保持秩序，不料到了后方，又遭到彭乐所率精骑的截杀。混战中，宇文泰和左右亲信都分开了，只得孤身策马逃走。没逃出多远，宇文泰就听到身后马蹄声响，彭乐已经带着人马追了上来。沙苑一战，宇文泰对彭乐的勇猛和莽撞早已闻名，这时一看依稀正是此人，连忙苦思脱身之策。彭乐大嚷大叫，让宇文泰立即束手就擒云云，宇文泰故作镇定，回头笑道：这位莫不是彭乐吗？你呀，还真傻！
彭乐一怔之下，宇文泰便开始攻心战，大讲“兔死狗烹”的道理：老兄苦追我干什么？无非是想捉我回去立功，可你想想，以高欢这人的个性，今天要是没有我，明天还能有你么？彭乐一想不错，不由有些意动。宇文泰见机更是施以利诱：我前营中还有很多金银珠宝来不及带走，老兄现在赶紧回去，还不都是你的？几句话把彭乐完全说服，带手下回转前营，捞了一口袋的黄金，兴高采烈地押着俘虏回去了。
回到东魏军中，彭乐向高欢汇报战况，为了吹嘘，说自己如何英勇地追赶宇文泰，对方又是如何失魂落魄云云，只顾一时口快，没想到这话却露出破绽，只得将宇文泰劝诱自己的话说了出来。高欢听后大怒，拔出佩剑，按住彭乐的头，三下三举，终未杀他，让他效力赎罪。战争尚未结束，高欢还不敢杀死大将。高欢心里也明白，只要宇文泰一天还在，自己就还没有胜利，只是他万万没有料到，宇文泰翻盘的机会竟然来得那么快。
宇文泰决定孤注一掷，将所有精锐兵力，特别是骑兵都集中到右翼，目的在于攻破东魏中军以摧毁东魏的指挥体系，而左翼由一些杂牌军充当，只求在一定时间内牵制敌军，不求克敌制胜。结果是虽然第一步目标达到了，但高欢终于逃离西魏军的追击，同余部会合，使得战事又延续下去。东魏左翼防线崩溃，步兵且被俘虏，于是将剩下的力量集中到右翼。西魏军本来薄弱的左翼面临加大的压力，此时再也支持不住，被东魏所攻破，以致许多参战的地方首领纷纷率领自己的私人武装溃逃。例如氐族土豪李鼠仁等人一直逃回关中，以为宇文泰就要垮台，趁机发动叛乱，后来才被讨平。
西魏军左翼崩溃后，右翼的侧后方就暴露出来。东魏军乘胜反攻，宇文泰、贺拔胜等还没有从错失高欢的怅惘中恢复过来，就不得不调转马头再战。而此时先前被俘虏的东魏步兵看到形势大变，也乘势而动，在友军的配合下奋起反击。西魏军腹背受敌，形势更加不利，不得不一步步退却。
日暮时分，两支已经连续打了两天的军队仍在缠斗不休。沙场上杀声震天，哀号不断，尸骸满地。西魏军劣势越来越大，宇文泰看到再硬拚下去只有死路一条，只得趁夜幕降临下令撤退。高欢哪肯放过生平的唯一宿敌，立即亲率骑兵全力追击。兵势交错，西魏独孤信、于谨正收拾落在后面的残军，看到形势再度危险，于是反过来率领散兵在东魏追兵后袭扰。此时已是深夜，意气风发的东魏追兵忽然背后遇袭，还以为中了埋伏，惊恐不已，高欢生怕局势再有反复，只得放弃追击，引军还营。邙山之战至此正式结束。
邙山之战虽败，西魏耿令贵、王胡仁、王文达等三名关西将领仍因功受赏。宇文泰从此看中关中人的勇猛，广泛招募关中豪强充实军队，并创立了府兵制。该制度最重要的特点是兵农合一。府兵平时为耕种土地的农民，农隙训练，战时从军打仗。府兵参战武器和马匹自备，全国都有负责府兵选拔训练的折冲府。这一制度从宇文泰创立一直到唐朝沿用了近200年。
