Après une première carrière de vingt ans (1926-1946) dans la Royal Navy, Jack Gwillim suit des cours d'art dramatique et débute comme acteur en 1950, au sein de la troupe du Shakespeare Memorial Theatre (alors dirigé par
Anthony Quayle) à Stratford-upon-Avon. Il sera très actif au théâtre jusqu'en 1996, principalement à Londres, se consacrant notamment au répertoire de William Shakespeare, aux côtés de
Claire Bloom,
Richard Burton,
Wendy Hiller, John Neville, Anthony Quayle et
Ralph Richardson, entre autres. Il se produit également à plusieurs reprises aux États-Unis -- où il s'installe en 1969 --, en particulier à Broadway (New York). Il joue la première fois sur les planches new-yorkaises d'octobre 1956 à janvier 1957, dans quatre pièces de Shakespeare (à l'occasion d'une tournée de l'Old Vic (en) Theatre Company de Londres, dont il devient membre en 1955), et la dernière fois en 1988, dans Macbeth de Shakespeare. Dans l'intervalle, toujours à Broadway, il collabore à trois pièces (dont une avec
Ingrid Bergman) et deux drames musicaux au cours des années 1970 et, en 1981, à une reprise de la comédie musicale My Fair Lady (il y interprète le colonel Pickering), avec
Rex Harrison -- voir la rubrique "Théâtre" ci-dessous --.
Au cinéma, Jack Gwillim contribue à seulement trente-quatre films (majoritairement britanniques, plus quelques films américains ou co-productions), disséminés entre 1956 et 2000, l'année précédant sa mort. Bon nombre de ces films sont bien connus (voir la filmographie ci-après) ; mentionnons le film de guerre américain
Patton en 1970, où il personnifie le général (puis maréchal) Harold Alexander, et le film mythologique britannique
Le Choc des Titans en 1981, où il est le dieu Poséidon.
Enfin, à la télévision, de 1955 à 1998, il apparaît dans trente-et-une séries (britanniques surtout, mais aussi américaines), ainsi que dans six téléfilms.