On lui doit de nombreux travaux en physique théorique, notamment en fission nucléaire, dont il fut le premier à mettre au point le modèle, en collaboration avec Niels Bohr en 1939, qui leur valurent la Médaille Franklin en 1969.
Faisant partie des derniers collaborateurs d'Einstein, Wheeler essaya de terminer le projet de théorie unifiée de ce dernier. La géométrodynamique fut fondée dans ce but, explorant la piste selon laquelle tous les phénomènes physiques, telle la gravitation ou l'électromagnétisme, pourraient se réduire aux propriétés géométriques d'espaces-temps courbés. Sa théorie ne parvenant pas, entre autres, à expliquer l'existence des fermions ou des singularités de la gravitation, Wheeler l'abandonna dans les années 1970.
On doit à Wheeler l'équation de Harrison-Wheeler qui décrit la matière nucléaire à haute densité (à l'intérieur des étoiles à neutrons par exemple). Il popularisa le terme de trou noir pour désigner ce que l'on nommait jusque-là astres occlus et l'expression "un trou noir n'a pas de cheveux", ou, selon une traduction plus verte, "un trou noir n'a pas de poils" pour rappeler qu'un trou noir est caractérisé de manière unique et totale par sa masse, son moment cinétique et sa charge électrique, quelle que fût la matière lui ayant donné naissance.
Nommé professeur à Princeton dans les années 1930, il y enseignera jusqu'en 1978 à l'exception de la période 1941-1945 où il participe au projet Manhattan de mise au point de la bombe atomique. Wheeler eut notamment comme élève Richard Feynman, dont il dirigea la thèse, et
Kip Thorne. Avec ce dernier et Charles Misner, il est co-auteur de la référence des relativistes, le fameux ouvrage Gravitation plus souvent cité sous le nom MTW des initiales de ses auteurs.
Il dirigea également la thèse d'Everett qui introduisit l'interprétation de la mécanique quantique connue sous le nom des « univers multiples ».
Pour son 90e anniversaire, en 2001, Max Tegmark lui dédia dans Scientific American un article passant en revue quatre types d'univers multiples envisageables.