Martin Landau est né dans une famille juive américaine à Brooklyn, New York. Il est le fils de Selma (née Buchanan) et Morris Landau, un machiniste d'origine autrichienne qui fuit le nazisme. A l'âge de 17 ans, il travaille comme dessinateur pour le Daily News, assistant Gus Edson pendant les années 40 et 50. Influencé par
Charles Chaplin, et le sentiment d'évasion que l'on trouve dans le cinéma, il mène une carrière d'acteur. Après deux sélections aux Oscars pour ses rôles dans les films
Tucker et Crimes et délits, il obtient en 1994 un Oscar du meilleur acteur dans un second rôle pour son interprétation de Bela Lugosi dans le film
Ed Wood de Tim Burton.
Martin Landau a été marié, de 1957 à 1993, avec l'actrice Barbara Bain. Ils ont eu deux filles, l'actrice Juliet Landau et la productrice de films Susan Bain Landau Finch.
Il est surtout connu pour sa superbe interprétation de Rollin Hand (le maître des déguisements) dans la série Mission impossible au côté de sa femme, qu'il retrouvera quelques années plus tard dans les premiers rôles de Cosmos 1999.