十月初二，神武帝再次西征，从蒲津渡过黄河，有军队二十万。周文帝宇文泰的军队驻扎在沙苑。神武帝因驻地狭小稍微后撤，西魏军队鼓噪而进，神武帝的军队阵脚大乱，扔掉了十八万件武器和甲胄，神武帝骑着橐驼逃走，坐船回到黄河东岸。
元象元年三月初二，神武帝坚决要求皇上解除他的丞相职务，得到批准。
四月初二，神武帝去邺城朝见皇上。请求解除酒蔡，并救济宿卫武官。初四，神武帝返回晋阳。
七月初六，行台侯景、司徒高昂在金墉包围了西魏将独孤信，西魏皇帝和周文帝宇文泰都带兵前来救援。大都督厍狄干带领诸将打前锋，神武帝总领部队紧跟其后。八月初四，与西魏军在黄河南岸交战，大败西魏军队，俘虏西魏士兵数万人。司徒高昂、大都督李猛、宋显在作战中阵亡。西魏军队失败后，独孤信率先跑入关内，周文帝字文泰留下他的都督长孙子彦把守金墉。就烧毁军营逃走。神武帝派兵追击，直至崤地，未能追上就返归了。当初神武帝得知西魏军队要来浸犯，就从晋阳带领大军急赴前线增援，到达孟津，还未渡河，而胜负已决。紧接着神武帝渡过黄河，长孙子彦弃城逃跑，神武帝就捣毁金墉而归。
十一月初八，神武帝到京师朝见。十二月三十日，神武帝回到晋阳。
兴和元年七月二十五日，东魏皇帝晋升神武帝为相国、录尚书事，神武帝坚辞不受。
十一月十五日，因新皇宫建成，神武帝到邺城朝见。东魏皇帝和神武帝一起宴饮、射猎，神武帝走下台阶向东魏皇帝祝贺，又请求辞去渤海王及都督中外诸军的职权，东魏皇帝下诏令没有批准。十二月十八日，神武帝回晋阳。
元象二年十二月，阿至罗人的另一部落派使者前来请求归降。神武帝带领部众迎接他们，走出武州要塞，还未见到他们，就打猎而归。
元象三年五月，神武帝巡视北部边境，派使者和蠕蠕人结好。
武定元年二月十二日，北豫州刺史高慎占据武牢向西魏叛变。三月初二，周文帝宇文泰率军援助高慎，包围了河桥南城。十八日，神武帝在芒山大败周文帝宇文泰的军队，生擒西魏督将以下的军官四百多人，俘虏和斩杀士兵六万人。这时，士兵有人偷偷地杀了老百姓的驴子，按军法应是死罪。神武帝没有下令杀掉他，准备带到并州再惩处他。第二天再次交战时，他就投靠西魏军队，告诉西魏军神武帝所处的地方。西魏军队中拘全部精锐前来攻击神武帝，神武帝的部队被击溃，神武帝也掉落马下。赫连阳顺跳下马，把马让给神武帝骑，和苍头冯文洛扶神武帝上马，一起逃跑，跟随在神武帝左右的步骑只有六七人。西魏的追兵逼近，神武帝的亲信都督尉兴庆喊道：“大王快跑，兴庆的腰上插着一百支箭，足足可杀一百个敌人。”神武帝勉励他说：“事情成功后，任你为怀州刺史。你如果阵亡了，就用你的儿子为怀州刺史。”尉兴庆说：“我的儿子还小，请你用我的哥哥。”神武帝答应了他。尉兴庆与西魏军搏斗，箭射完后阵亡了。西魏太师贺拔胜派十三个骑兵去追赶神武帝，河州刺史刘洪徽射杀了其中的两个骈兵。贺拔胜的长矛快要刺着神武帝，段孝先发箭射死贺拔胜所骑的马，神武帝于是幸免于难。豫、洛二州被平定。
神武帝让刘丰追击西魏军队，开拓疆土，直到弘农才收兵。
七月，神武帝写信给周文帝宇文泰，谴责他杀死了孝武帝。
八月十三日，东魏皇帝下诏任命神武帝为相国、录尚书事、大行台，以前所任官职仍予以保留，神武帝坚决推辞。当日，神武帝命人在肆州北山修建城垣，这座城西到了马陵戍、东抵土隥，四十天后才停下来。
元象四年八月二十三日，神武帝准备西去讨伐西魏，从邺城集中兵马到晋阳。殿中将军曹魏祖说：“不妥，今年八月是西方王，以死气来迎生气，对客人不吉利，对主人还行。真要发兵的话，会伤害大将军您的。”神武帝没有接受他的进言。自从东魏和西魏交战以来，邺下经常出现黄黑蚂蚁各自为阵互相咬斗。占卜的人认为黄色是东魏军队军衣的颜色，黑色是西魏军队军衣的颜色，民间用这来预测双方的胜负。当时，黄蚂蚁都被咬死了。九月，神武帝挥军包围玉壁向西魏军队挑战，西魏军队不敢应战。西魏晋州刺史韦孝宽镇守玉壁，从城中放出戴铁面罩的士兵来，神武帝命令元溢用箭向他们射击，每次都射中他们的眼睛。神武帝采纳李业兴的孤虚法，将部队集中在城北。由于北边是天险，于是堆土为山丘，挖掘十条地道，又在东面开挖二十一条地道来攻城。玉壁城巾缺水，要从汾河汲水，神武帝让人改变汾河河道，一夜功夫就完成了。韦孝宽设法除去了上山。神武帝的军队在玉壁附近驻扎五十天左右，没有攻克玉壁城。将士阵亡的有七万人，神武帝命收集他们的尸体埋在一个墓中。又有流星落在神武帝的军营巾，营中的驴子一齐呜叫，将士们都很恐慌。神武帝也生病了。
十一月初一，神武帝抱病乘车返回。十一日派遣太原公高洋镇守邺城。十二日，召儿子高澄回晋阳。有怪鸟集栖在亭树上，高澄命令斛律光射杀它们。十六日，神武帝以没有立下战功为由，上书皇上请求解除自己都督中外各处军务的职权。东魏皇帝特地下诏批准。这时西魏的人都说神武帝被箭射伤，神武帝听说后，就勉强坐着会见诸多高官，让斛律金唱敕勒歌，神武帝在一旁唱和，哀伤得泪流满面。
侯景一向低看高澄，曾经对司马子如说：“大王活着，我不敢有异心；大王不在后，我不能和鲜卑小儿一起共事。”司马子如捂住他的嘴。这时，高澄代神武帝修书征召侯景。侯景以前与神武帝约定，收到书信，看到信背面有小黑点，才来探视。书信送到，信背面没有小黑点，侯景就没有来。又听说神武帝生病了，就拥兵自守。神武帝对儿子高澄说：“我虽然有病在身，但你的腧上带有更多的忧虑之色，这是为什么？”高澄没有回答。神武帝就再问道：“莫非是担心侯景叛变？”高澄答复说：“正是如此。”神武帝说：“侯景在黄河以南专权有十四年了，时常有君临天下的志向。因顾虑我可能调养好病情，还未谋叛，你怎么能驾驭他呢？现在四方并不安定，不要匆忙为我举哀。厍狄干是鲜卑老臣，斛律金是敕勒老臣，他们都生性耿直，一辈子不会辜负你的。可朱浑道元、刘丰从远处来投靠我，一定没有异心。贺拨焉过儿朴实，没有犯过错误。潘湘乐本来是道士，心地温和仁厚。你们兄弟会得到他们的帮助的。韩轨小时候比较愚笨，你们应当宽恕他。
彭相乐心思藏得较深，应当提防他。稍微能和侯景抗衡的只有慕容绍宗，因此我不让他当高官，是为了把他留给你，你应该加以殊礼来对待他，委以重任。”元象五年正月，出现日蚀，神武帝说：“日蚀是冲我而来，我死去又有什么可遗憾的呢？”初八，上奏折给东魏皇帝。当天，死于晋阳，享年五十二岁，没有发丧。六月十七日，东魏皇帝在东堂为他举行追悼会。第三天，制作丧服，诏令依照西汉大将军霍光、东平王张苍的规格办理丧事，追赠他假黄钺、使持节、相国、都督中外诸军事、齐王等印绶，赐辒辌车、黄屋、左纛、前后羽葆、鼓吹、轻车、介士，又准备九锡的特殊礼仪，封谥号为献武王。八月二十日，安葬在邺城西北漳河的西侧，东魏皇帝送葬到紫陌。北齐天保初年，追封为献武帝，庙号为太祖，陵为平陵。北齐天统元年，改谥号为神武皇帝，庙号为高祖。
神武皇帝性情细密、眼光远大，每天都泰然自若，人们无法估摸他的心思。他在时机和权变之间，善干应变，像神仙一样非常准确。
至于国家军政大事方面，他能独立运用自己的头脑找到好的处理办法，很少让文武官员参预其中。他统领部队，法令严肃，临敌制胜，所出计策没有办法可以学到。听案审案，巡查虚实，没有人能骗过他，冒犯他。他善于识贤，礼待士人，乐于保全爱护有功的旧臣。他秉性厚实，每次遇到有关伦理教化的大事，常常殷勤地去听讲，指点时事，谈论抱负，不尚奢华。
他提拔人才，任用官员，全看他们的能力，有名无灾的很少铍任用。诸将出征讨伐，遵从他的方略行事，没有不胜利的；违反他的方略的，大多失败逃亡。他特别崇尚俭朴，刀剑鞍勒没有金玉饰品。神武帝年轻时候能喝很多的酒，自从担负币任后，喝酒从来不超过三杯。待在家里像当官一样严谨。他仁慈宽容，尊重士人。
当时，范阳人卢景裕以明经著称于世，鲁郡人韩毅以擅长书法而显名当世，他们都是在谋反时被神武帝擒获的，但都蒙受神武帝的恩惠。
神武帝将他们安置在自己的住宅中，教育他的儿子。他手下的文武官员由于都能对侍奉的主人尽忠全节，被捕后没有受到处罚的很多，因而远近的人都来归附，想为他效劳。他甚至在南边威震梁国，在北边与蠕蠕人结好，吐谷浑、阿至罗都被他招纳并帮助他，谍略可谓深远。
