Neumann arriva aux États-Unis au début du parlant, et fut d'abord engagé pour tourner des versions en allemand de films hollywoodiens.
Une fois qu'il maîtrisa l'anglais et qu'il se fut acquis une réputation de réalisateur efficace, il dirigea une série de productions à petit budget, parmi lesquelles La Grande Cage (The Big Cage, 1933), Secret of the Blue Room (1933) avec Paul Lukas et Gloria Stuart, Le Chant du Missouri (Rainbow on the River/ It Happened in New Orleans, 1936) avec l'enfant-star Bobby Breen, Hold 'Em Navy (1937), Drôle d'équipe (Wide Open Faces, 1937) avec Joe E. Brown, et Ellery Queen : Master Detective (1939).
En 1935, il fut pressenti pour tourner La Fiancée de Frankenstein (Bride of Frankenstein), mais après le succès en 1933 de L'Homme invisible de
James Whale, qui avait déjà réalisé le premier Frankenstein, Universal insista auprès de Whale pour qu'il réalisât également la suite.
En 1941, Neumann signa un contrat avec le producteur
Hal Roach pour diriger une série de films de 45 minutes, des comédies en 4 bobines, comme About Face (1942), Brooklyn Orchid (1942), Taxi, Mister ? (1943) et Yanks Ahoy (1943).
En 1945, il rejoignit la compagnie du producteur Sol Lesser, qui l'engagea comme coproducteur et metteur en scène principal d'une série de Tarzan (1945-1954), produite pour la RKO et avec Johnny Weissmuller puis plus tard
Gordon Scott dans le rôle titre.
C'est surtout comme spécialiste des films de science-fiction que Neumann se fit un nom, grâce à des réalisations telles que Vingt-quatre heures chez les Martiens (Rocketship X-M, 1950) et La Mouche noire (The Fly, 1958). Il dirigea d'autres films de SF et d'horreur comme Kronos (1957) et She-Devil (1957), et aussi des films d'autres genres comme The Ring (1952), une production indépendante avec
Rita Moreno, Ceux du voyage (Carnival Story, 1954), L'Attaque du fort Douglas (Mohawk, 1956) et The Deerslayer (1958).
Selon l'Internet Movie Database, Neumann s'est donné la mort à Los Angeles le 21 août 1958, peu avant une projection en avant-première de La Mouche noire. Neumann ne sut par conséquent jamais quel succès allait rencontrer son film, considéré encore aujourd'hui comme un classique du genre. D'autres sources affirment cependant qu'il s'est éteint de mort naturelle, peu après l'avant-première, mais avant la première officielle du film. Il est enterré au cimetière Utter McKinley, à Los Angeles.