冯·诺依曼1903年出生于布达佩斯一个犹太律师的家庭，他的一生，可以给我们作为“自古英雄出少年”的标本。据说他在六岁那年已经可以心算两个8位数字相除的商，至于他八岁已经精通微积分、十二岁开始阅读专为职业数学家提供的著作，可是确凿的事实。他同时还热衷于发明机械玩具，并且成为熟悉拜占庭史、内战和圣女贞德的审判的少年专家。上大学的时候，他同意学习化学工程，以此作为对他的父亲的一种妥协，后者担心自己的儿子不可能以数学家的工作谋生。冯·诺依曼的条件就是要进入布达佩斯大学。不过他的大部分时间却是在柏林度过的，在那里潜心钻研数学，其中包括出席爱因斯坦的访问演讲会，只是在每个学期即将结束的时候，他才赶回布达佩斯大学，参加考试。19岁那年，他发表了自己的第二篇数学论文，提出了序数的现代定义，据认为比康托当初的定义更加出色。
作为一个学生，冯·诺依曼还经常坐三个小时的火车从柏林来到哥廷根，正是在那里，他拜会了希尔伯特。这种关系和后来他得到洛克菲勒基金会资助到哥廷根做博士后，启引冯·诺依曼于1928年发表那篇著名的有关集合论公理化的论文。随后，他发现了遍历原理的第一个具有数学严谨性的证明，解决了希尔伯特的所谓紧致群的第五问题，发明了一种新的代数学和一个叫做“连续几何学”的新领域，这是维数可以连续变化的几何学，从而人们可以谈论三又四分之三维，而不是一个第四维。
冯·诺依曼还在20岁的时候，就已经完成他著名的关于“会客室博弈”的论文，以及对于新的量子物理涉及的数学具有奠基意义的重要著作《量子力学的数学基础》。
取得博士学位以后，冯·诺依曼先是在柏林大学和汉堡大学工作。1930年，维布伦邀请他来美国普林斯顿大学讲授量子理论，成为“只上半班”的教授。1933年在他30岁的时候，冯·诺依曼得到普林斯顿高等研究院的终身教席。第二次世界大战爆发前后，他的兴趣也再次发生转移。在此之前，他是一个懂物理的顶尖的纯粹数学学者，之后，就变成一个清楚自己的纯理论工作者背景的应用数学学者。在战争期间，他与普林斯顿大学的经济学家奥斯卡·摩根斯滕（Oskar Morgenstern）合作，完成了一部长达1200页的手稿，后来出版成为《博弈论与经济行为》。
从1943年开始，他也是奥本海默（见后）的曼哈顿计划中身居要职的数学家。他对原子弹的贡献就是提出了一个引发核燃料爆炸的“内爆”方法，这个方法将研制原子弹所需的时间缩短了一年多。
1948年，他回到高等研究院，编辑刊物和接待崇拜自己的人，还不时出席大学数学系范氏大楼的茶会。这时候，他和奥本海默围绕能否和是否应该研制氢弹或当时所谓的“超级武器”，发生了著名的辩论。他对气象预测和控制深感兴趣，据说还曾经建议将北极和南极染成蓝色，从而提高地球的温度。他不仅向物理学家、经济学家和电气工程师证明拘泥形式的数学也可能为他们的领域带来全新的突破，而且使最纯粹的年轻数学家意识到，将数学应用于现实世界各个学科是非常迷人的事情。
早在战争结束的时候，冯·诺依曼的真正兴趣已经转向计算机，尽管因为许多事情要亲力亲为，事实上还得承担总工程师的职责，从而他抱怨说这种兴趣有点“令人心烦”。他的有关计算机结构理论的想法，获得广泛采纳，他发明了计算机必需的数学技巧，他和他的合作者们发明了预先储存的程序。不过，最重要的一点在于，冯·诺依曼是最清楚了解这些“思想机器”的潜力的学者。1945年在加拿大的蒙特利尔，他在一次讲话中指出，“纯粹和应用数学的许多分支非常需要计算工具，用以打破目前由于纯粹分析的研究方法不能解决非线性问题而形成的停滞状态。”冯·诺依曼麾下的学者，包括后来成为IBM的科学总监的赫曼·高茨汀（Hermann Goldstine）。
由于高等研究院传统上崇尚纯理论研究，冯·诺依曼也曾经向海军推销自己研制一台计算机的想法，理由是诺曼底登陆几乎由于低劣的天气预测而遭到失败。海军对此有深刻的体会，结果主要资助就来自海军。冯·诺依曼的理论创新和工程进展实在是太耀眼了，结果他还是得以在崇尚纯理论研究的高等研究院，安装了那部最后被命名为“狂人”的数字电子计算机，这部机器看起来“比大教堂里面的管风琴还大”，挤满高等研究院的主楼富德楼的地下室。这台计算机很重要的一项工作，是用来改善天气预测的质量。按照冯·诺依曼的理论，天气预报需要利用高速电子数字计算机求解偏微分方程。事实上，冯·诺依曼他们借助这台计算机在人类历史上首次成功地预报了一系列风暴。后来，随着高等研究院新房舍的落成，当年那种现在看来笨头笨脑的电子计算机，终于有了自己的房子。高等研究院的这部机器，一直使用到1958年，后来，它被捐献到首都华盛顿著名的斯密斯逊历史博物馆陈列。
这时候的高等研究院，聚集了一批出色的气象学家，还有编制外的工程师甚至程序员。资金不成问题，海军和其他一些部门都支持这样的研究。但是随着冯·诺依曼在1957年英年早逝，这个团队在不久以后也很快解散了，不过冯·诺依曼播下的种子，继续在别的地方发芽、开花、结果。这个团队当中至少有两位，在半个世纪以后，仍然因为当年追随冯·诺依曼所做的工作而获得地球物理学的最高奖--富兰克林奖。
与冯·诺依曼有关的每件事，都让人感染他个人的无与伦比的魅力。他勇敢无畏地走向远远超出数学范围的领域，激励年轻才子争相仿效，这其中就包含后来成为博弈论大师的普林斯顿大学数学系的研究生小约翰·纳什。冯·诺依曼应用相似的方法解决不同的问题而取得成功的出色实践，为后来一些着重解决实际问题多于理论研究的学者亮起了前进的绿灯。
爱因斯坦自然自始至终都是高等研究院旗帜性的人物。自从来到高等研究院以后，他主要就是致力于统一场论这项雄心勃勃的宏大研究，具体进展则相当缓慢。而就在这个时段，冯·诺依曼在数学、量子力学、博弈论、计算机科学、核武器和气象预报等方面的发现和发明，他带领团队取得的突破，却让人目不暇接，光芒甚至在爱因斯坦之上。
爱因斯坦在统一场论方面进展不大，部分原因是当时活跃的物理学家，都关注基本粒子。另外一个原因，可能在于当时没有适合的数学工具。爱因斯坦去世四十多年以后，人们发现新兴的弦论（String Theory）很可能在这方面有所帮助，从而关于统一场论的工作重新热闹起来。这与弗列克斯纳在《无用知识的有用性》里面引用的非欧几何与相对论的关系，颇为相似。科学研究，也讲究天时地利人和，讲究水到渠成。先知往往要在知识海洋的探索中孤独地航行。
