Au cours d'une carrière hollywoodienne tumultueuse, il fut notamment le pygmalion de Marlène Dietrich. Il a écrit ses mémoires dans « Fun in a chinese Laundry » (traduit par « Souvenirs d'un montreur d'ombres ») en 1966.
Issu d'une famille de la classe moyenne juive de Vienne, il a fait, contrairement à Eric von Stroheim, de solides études en Autriche et aux Etats-Unis, avant de travailler comme monteur pour une compagnie du New-Jersey. Il est assistant de plusieurs metteurs en scène, puis un acteur de théâtre britannique, George Arthur, lui propose de le diriger dans un film qui doit marquer ses débuts à l'écran. Sternberg accepte et lui soumet un scénario. Ce sera The Salvation Hunter qui surprend à l'époque par son côté naturaliste.
Mary Pickford songe à Sternberg pour l'un de ses films, mais c'est finalement la Metro-Goldwyn-Mayer qui l'embauche. Les débuts de Sternberg ne sont pas très heureux: The Masked Bride et The Exquisite Sinner sont terminés ou refaits par d'autres: le premier, achevé par Christy Cabanne en 1925, et le second par Phil Rosen en 1926. Nouvel échec avec
A Woman of the Sea, commandé par Chaplin pour
Edna Purviance, et qui ne sera jamais montré. Cette série noire s'interrompt avec
Les Nuits de Chicago, tourné pour la Paramount, d'après une histoire de
Ben Hecht. Les Damnés de l'océan le classe parmi les grands maîtres du muet.
Sa carrière prend un nouveau tour avec L'Ange bleu, tourné pour l'UFA en Allemagne. Comme partenaire féminine d'
Emil Jannings, il porte son choix sur
Marlene Dietrich. Commence l'histoire de Pygmalion et Galatée. Dans ses souvenirs, Sternberg affirmera avoir créé de toutes pièces le mythe de Marlene et minimisera le rôle de son interprète qui protestera. « J'ai cessé de faire du cinéma en 1935 » déclarait Sternberg, faisant allusion à la fin du cycle Marlene. Cependant Shanghai Gesture en 1941 et surtout Fièvre sur Anatahan, tourné au Japon, nous prouvent le contraire, et ne peuvent que nous faire regretter qu'un sujet aussi ambitieux que I, Claudius n'ait jamais pu être terminé.