Sa famille quitta le Mexique pour Los Angeles à cause de la Révolution mexicaine. Il entre à la MGM comme figurant, notamment dans Jeanne d'arc de Cecil B. DeMille en 1917 ou The Four Horsemen of the Apocalypse avec
Rudolph Valentino. Remarqué par Rex Ingram, il est l'interprète de plusieurs grands succès tels Scaramouche ou The Arab. Il atteint la consécration grâce à la première adaptation du roman Ben-Hur: A Tale of the Christ à l'écran, sous la direction de
Fred Niblo, en 1925. Il tourne ensuite sous la direction de
Ernst Lubitsch The Student Prince in Old Heidelberg.
Sa voix passant très bien à l'avènement du parlant, il tourne son premier film sonorisé en 1930 (Call of the Flesh). En 1931, il incarne le lieutenant Alexis Rosanoff aux côtés de
Greta Garbo dans Mata Hari. Il tourne deux films avec le français
Jacques Feyder. Au milieu des années 30, il rompt son contrat avec la MGM et, le succès déclinant, part vers l'Europe. Il tourne pour Marcel L'Herbier puis revient aux États-Unis pendant la guerre.
John Huston le fait tourner dans Les Insurgés en 1949 et Richard Brooks dans
Cas de conscience l'année suivante. Son dernier film date de 1960 : La Diablesse en collant rose avec
Anthony Quinn.
Novarro eut toujours des problèmes avec sa condition d'homosexuel catholique,.