Conrad Veidt est le fils d'un petit fonctionnaire qui quitte le lycée sans le bac car déjà le théâtre l'accapare. Formé à l'école de Max Reinhardt, il débute au cinéma en 1916. Après la Première Guerre mondiale, Veidt se fait une spécialité de jouer dans les films dits « d'éducation sexuelle » qui sont très populaires dans la République de Weimar. Figure emblématique du mouvement expressionniste allemand, il en incarne les tendances morbides à travers une impressionnante galerie de pervers et de fous meurtriers. Un des éléments les plus importants de l'expressionnisme est sans conteste le jeu des acteurs et Conrad Veidt excelle. Un de ses rôles les plus célèbres demeure celui de Cesare dans
Le Cabinet du docteur Caligari (1920). Juste par ses cils, ses sourcils, les muscles visibles du visage, un mouvement léger des ailes du nez et de la commissure des lèvres, l'acteur indique d'une manière très suggestive l'éveil contrôlé du médium somnambule, mais aussi un désir d'érotomane sadique. Une autre astuce de son jeu artificiel et intense est le ralentissement évident des mouvements du corps et des détails d'expression, et les contorsions d'un corps dirigé par les mouvements d'épaules. Dans Caligari, Conrad Veidt se meut avec des gestes félins, se faufilant tel un animal.
Entre 1916 et 1924 Conrad Veidt tourne dans une soixantaine de films, dirigé par, entre autres : Paul Leni,
Robert Wiene, Ewald André Dupont,
Reinhold Schünzel et
Friedrich Wilhelm Murnau. Entre 1926 et 1929, Conrad est invité à Hollywood et tourne dans quatre films, dont L'Homme qui rit (1928) mis en scène par son compatriote Paul Leni et également interprété par
Mary Philbin. Son personnage dans L'Homme qui rit inspirera plus tard celui du Joker, ennemi juré de
Batman. Avec l'arrivée du cinéma parlant, Conrad Veidt revient en Allemagne et reprend les rôles qui ont fait de lui une célébrité. En 1930, il campe Raspoutine, le moine démoniaque dans le film éponyme, puis il incarne l'extraordinaire prince Metternich dans Le Congrès s'amuse (1931) d'Erik Charell.
Son mariage avec une actrice d'origine juive l'oblige à quitter l'Allemagne dès 1933. Il poursuit une carrière d'acteur en Grande-Bretagne. Il y tourne plusieurs films sous la direction entre autres, de Maurice Elvey, Victor Saville et
Michael Powell. Il travaille également en France, notamment avec Jean Dréville pour Le Joueur d'échecs (1938) aux côtés de
Françoise Rosay. En 1939, il devient officiellement citoyen britannique. En 1940, Conrad Veidt revient aux États-Unis pour finir les prises de vue du film
Le Voleur de Bagdad, où il joue Jaffar, le cruel vizir. Il s'installe alors définitivement en Californie. Cependant, les cinéastes, peu imaginatifs, le cantonnent dans des rôles de nazi. Il travaille notamment avec
George Cukor pour Il était une fois (1940), Vincent Sherman pour Échec à la gestapo (1941). Il se spécialise alors dans les personnages germaniques, puis dans les rôles de nazi pendant la Guerre comme dans
Casablanca.
De 1916 à 1943, il aura joué dans plus de cent films, dont plusieurs sont devenus de grands classiques.