Il est né dans une famille de musiciens, sa mère Johanna Geisler, une soprano, et son père le célèbre chef d'orchestre Otto Klemperer. D'origine juive, il quitte l'Allemagne en 1933, pour aller s'installer à Los Angeles aux États-Unis.
Il a servi dans l'armée américaine où il s'engagea le 03 octobre 1942 en Californie États-Unis et reçut le matricule 39259474 (Sources : The National Archives, NARA AAD), il servit dans le Pacifique, pendant la Seconde Guerre mondiale.
Werner Klemperer est mort le 6 décembre 2000, son corps a été incinéré et ses cendres dispersées en mer.
Célèbre pour le rôle du Colonel Klink dans la série Papa Schultz, diffusée de 1965 à 1971, il reçut deux Emmy Award pour sa performance.
Il a joué aussi dans Jugement à Nuremberg de
Stanley Kramer dans le rôle de Emil Hahn.