Janos Neumann est né à Budapest. Le salon de son père, un riche banquier, est   fréquenté par des savants et des écrivains réputés. Il entreprend des études de chimie, et suit le cours d'Einstein à Berlin. En 1926, il obtient un diplôme d'ingénieur chimiste, et un doctorat de mathématiques. Professeur de mathématiques, il enseigne à l’université de Berlin à partir de 1927, et de 1930 à 1933, à mi-temps, à Princeton. Nazisme et antisémitisme l’obligent à s'installer définitivement aux Etats-Unis. Il obtient sa naturalisation américaine en 1937 et se fait désormais appeler John Von Neumann.

À l’approche de la guerre, Von Neumann travaille comme consultant de l'armée et à partir de 1943, participe à la mise au point de la première bombe atomique, ce qui le conduit à s’intéresser aux machines à calculer d’où naîtra l’ordinateur. Il contribue à la mise au point d’une architecture de cette machine qui a reçu son nom.