Il débute dans son pays natal en 1902, au théâtre, où il sera très actif. A l'occasion d'une tournée, il vient à New York en 1905 et jouera dès lors tant en Angleterre qu'aux États-Unis. Entre 1907 et 1940, il se produit à Broadway, notamment dans des pièces de William Shakespeare (
Le Marchand de Venise - 1907 - ; Comme il vous plaira - 1914 - ; Les Joyeuses Commères de Windsor - 1916 -), et également dans quelques comédies musicales. Sa dernière pièce à Broadway est There shall be no Night (1940), aux côtés du jeune
Montgomery Clift.
En 1941, il démarre sa carrière au cinéma, pour la Warner Brothers. Son premier film, l'un de ses plus connus, est
Le Faucon maltais avec
Humphrey Bogart, qu'il retrouvera dans
Griffes jaunes (1942),
Casablanca (1942), Passage pour Marseille (1944) et La mort n'était pas au rendez-vous (1945). Mais le partenaire qu'il aura le plus souvent est
Peter Lorre, avec lequel il tournera neuf films.
Des ennuis de santé récurrents (notamment un diabète, des suites duquel il décédera) mettront un terme à sa carrière au cinéma (qu'il a d'ailleurs commencée sur le tard, à 62 ans). Son dernier film est Malaya (1949), avec
Spencer Tracy et
James Stewart.
En 1950 et 1951, il participera encore à une série de pièces radiophoniques, The New Adventures of Nero Wolfe (en).