Il commence par étudier les arts et la musique, notamment le violon, et passe par l'Académie des Beaux-Arts de Dresde. Sa carrière d'acteur débute dans un contexte difficile, l'Allemagne est alors en pleine récession. Comme tant d'autres, il devient adhérent du NSDAP (Parti national-socialiste des travailleurs allemands). Il est enrôlé dans l'armée à Vienne. Il n'apparaît pourtant pas comme un fervent partisan des thèses nazies, puisque des années plus tard, alors qu'il est critiqué pour son passé lors de la sortie de Goldfinger en Israël, on découvre qu'il aurait sauvé deux juifs à Vienne. Il l'affirme au Daily Mail en 1965: "Naturellement, j'étais un Nazi".
Après la guerre, il joue dans des spectacles de rue. Son premier véritable rôle a l'écran aura lieu dans Ballade Berlinoise, en 1948. Il enchaîne ensuite les seconds rôles en Europe, puis rencontre Fritz Lang en 1960, qui lui fait jouer le rôle de l'inspecteur dans
Le Diabolique docteur Mabuse. Il participe au tournage du film Le Jour le plus long en 1962.
Il joue ensuite dans de nombreux films, notamment dans Goldfinger le rôle d'Auric Goldfinger et le rôle du Général Von Choltitz dans Paris brûle-t-il ?. Un de ses derniers films sera Le Coup du parapluie de Gérard Oury en 1980, où il parodie son personnage de Goldfinger.
Il eut deux enfants, Andreas et Utz.