Howard Duff commença sa carrière en tant qu'acteur à la radio en 1946 et obtint son premier rôle au cinéma en 1947 dans les Démons de la liberté. Après avoir enchainé des seconds rôles plus ou moins importants au cinéma, il commence une carrière télévisée en 1957 avec son épouse
Ida Lupino dans la comédie Mr. Adams and Eve. Il enchaine ensuite les séries comme Dante (1960-1961) où il joue le rôle de Willie Dante puis
Brigade criminelle (1966-1969) où il joue le rôle du sergent Sam Stone.
Dans les années 1970, il tourne dans de nombreux téléfilms et apparait comme guest star dans de nombreuses séries télévisées comme Matt Helm, Les Rues de San Francisco, Mannix ou l'Île fantastique. Il joue des seconds rôles dans quelques films importants comme
Un mariage où il interprète le docteur Jules Meecham et
Kramer contre Kramer où il joue le rôle de John Shaunessy.
Durant les années 1980, il est surtout remarqué pour son interprétation du shérif Titus Semple dans la série Flamingo Road. Il tourne comme guest star dans plusieurs séries comme Magnum, Simon et Simon, Arabesque, Dallas, La croisière s'amuse....
En 1987, il inteprète le rôle du sénateur William « Billy » Duvall dans le film
Sens unique, son dernier film.
En 1985 et 1990, il interprète le rôle de l'homme d'affaires Paul Galveston pendant 10 épisodes de la série Côte Ouest, celui de Mangiacavallo dans un épisode de la série Golden Girls. Ce furent ses derniers rôles car il meurt peu de temps après d'une crise cardiaque le 8 juillet 1990.
Après une relation tumultueuse avec
Ava Gardner (qui interpréta plus tard sa veuve dans Côte Ouest), il a épousé
Ida Lupino en 1951 avec qui il a une fille, Bridget Duff (née en 1952). Séparé de son épouse en 1966, ils ne divorcent que 18 ans plus tard en 1984. Il s'était remarié en 1986.