Abby Mann, né d'une famille juive d'origine russe, a grandi à Pittsburg dans un quartier catholique à l'est de la ville. Il commence sa carrière professionnelle dans les années cinquante en écrivant des pièces de théâtre filmées pour la chaîne NBC. Il coécrit son premier long-métrage pour le film Port of Escape d'Anthony Young en 1956. Mais c'est en 1961 qu'il est révélé avec son scénario Jugement à Nuremberg de
Stanley Kramer. Le film est un succès international et Abby Mann se voit récompensé d'un oscar du meilleur scénario. Il travaille par la suite pour
Vittorio de Sica, adaptant une pièce de
Jean-Paul Sartre : Les Séquestrés d'Altona, avec
Sophia Loren.
En 1962, il revient vers Stanley Kramer qui lui confie l'écriture d'Un enfant attend qui doit être réalisé par
John Cassavetes, encore jeune réalisateur. Le producteur l'engage encore pour La Nef des fous. En 1973, il quitte le cinéma pour se consacrer à la télévision pour laquelle il écrit des scénarios de téléfilm et séries télévisées. Il crée notamment le personnage de Kojak pour le téléfilm The Marcus-Nelson Murders. Le personnage deviendra à lui seul le héros de la série qui porte son nom.