Acteur prolifique (près d'une centaine de films en 45 ans de présence sur les écrans), Ian Holm débute sa carrière sur les planches du Shakespeare Memorial Theatre en 1954. Comédien de théâtre confirmé, il effectue ses premiers pas devant la caméra en 1966 dans la série télévisée The Body snatchers. Il passe au cinéma en 1968 avec L'Homme de Kiev de John Frankenheimer, avant de jouer dans Ah Dieu ! que la guerre est jolie de Richard Attenborough. Ian Holm apparaît dans une dizaine de films dans les années 70, dont Les Griffes du lion (1972) de Richard Attenborough, Terreur sur le Britannic (1974) de Richard Lester et Alien, le huitième passager (1979), où il campe Ash, l'angoissant androïde.
Mais c'est en 1981 qu'arrive la consécration. Dans
Les Chariots de feu de Hugh Hudson, Ian Holm incarne Sam Mussabini, l'entraîneur de deux coureurs de fond anglais en lice pour les Jeux Olympiques de 1924. Fidèle à Terry Gilliam (Bandits, bandits et
Brazil), il retrouvera Hugh Hudson en 1984 pour Greystoke, la légende de Tarzan. Les rôles marquants et les collaborations avec les plus grands metteurs en scène se succèdent : Henry V (1989) et Frankenstein (1994) de Kenneth Branagh,
Kafka (1991) de Steven Soderbergh,
Le Festin nu (1991) de David Cronenberg, De beaux lendemains (1997) d'Atom Egoyan ou encore Esther Kahn (2000) d'Arnaud Desplechin.
Anobli par la reine d'Angleterre en juin 1998, Ian Holm a participé à de grosses productions où il fait souvent figure d'érudit : prêtre agité dans Le Cinquième élément (1997), il est Bilbon Sacquet le Hobbit dans la saga Le Seigneur des anneaux (2001-2003), l'aristocrate Sir William Gull dans From hell (2002) des frères Hughes, un climatologue de renommée mondiale dans Le Jour d'après (2004) ainsi qu'un météorologue s'improvisant mathématicien dans Aviator (2005).