Hardy Krüger est le fils d'un ingénieur et passe son enfance dans le quartier de Biesdorf à Berlin.
En 1941, à l'âge de 13 ans, il intègre une Adolf-Hitler-Schule (école créée par le parti national-socialiste allemand en 1937 pour former les futurs cadres administratifs et dirigeants de l'Etat) à Sonthofen en Bavière. Il est incorporé, en mars 1945, dans la 38e division SS de grenadiers Nibelungen, alors engagée dans de terribles combats, puis est fait prisonnier par l'armée américaine au Tyrol.
Après la guerre, il entame une carrière nationale d'acteur sous la direction de réalisateurs tels qu'Alfred Weidenmann, Helmut Weiss ou encore Rudolf Jugert. C'est
Otto Preminger, en 1953, dans The Moon Is Blue, qui lui offre son premier rôle à l'étranger et lance sa carrière internationale. Avec son physique proche de l'archétype aryen, il est très souvent cantonné à jouer des personnages caricaturaux adeptes du nazisme ou des soldats allemands.
En France, il apparaît à l'écran dans de nombreux films comme, notamment,
Un taxi pour Tobrouk, Les Dimanches de Ville d'Avray et
La Grande sauterelle. Mais son rôle le plus marquant demeure sans conteste celui qu'il tient dans
Le Franciscain de Bourges réalisé en 1967 par
Claude Autant-Lara.