Il suit des études à l'Université de Central Michigan puis à l'Université de l'Iowa.
Avant de commencer à tourner dans des films au début des années 1980, il a entre autres été garde du corps ou boxeur. Il change son nom en Terry O'Quinn, en référence à ses origines irlandaises, pour ne pas être confondu avec un autre acteur s'appelant déjà Terry Quinn.
Il est marié depuis 1979 avec Lori -- qui est aussi une actrice -- ce qui est un véritable record parmi les acteurs hollywoodiens. Terry et Lori ont deux fils.
Un tatouage représentant la phrase "We have to hide in the banyans" figure sur sa cuisse gauche.
Il fait sa première apparition au cinéma en 1980 dans le film La Porte du Paradis de Michael Cimino.
En 1983, il est évincé de justesse par Al Pacino dans l'obtention du rôle du criminel désormais culte Tony Montana dans le Scarface de
Brian de Palma. D'aucuns prétendront que cette éviction serait due à la calvitie déjà naissante de l'acteur. Quoi qu'il en soit, cet échec le marquera durablement, considérant qu'une toute autre carrière et la véritable reconnaissance de son talent furent gâchés. Depuis lors, il préférera s'approprier son alopécie et jouer avec.
En 1987 et 1989 il sera célèbre pour son rôle dans les deux films à succès Le beau père 1 et 2 (The Stepfather 1 et 2) où il incarne un tueur en série. En 1994, il joue dans l'épisode The Bribe de la série Les Contes de la crypte.
À partir de 1995, il fait des apparitions récurrentes dans plusieurs feuilletons :
- Il joue un rôle dans l'épisode Aubrey de la série X-Files, aux frontières du réel.
- En 1996, le créateur de la série, Chris Carter, lui donne le rôle de Peter Watts dans Millennium.
- Il le fait ensuite jouer le film The X Files, dans l'épisode final de la série X-Files et dans la série Harsh Realm.
- Il joue aussi dans JAG.
A partir de 2002, il commence à jouer un rôle récurrent dans Alias : Kendall, le sous-directeur du FBI. Le créateur de celle-ci,
J.J. Abrams, l'appelle pour jouer dans Lost, les disparus en 2004, où il joue le personnage de John Locke.
En juillet 2005, il est nommé pour l'Emmy Award du meilleur acteur de second rôle dans un feuilleton dramatique.
Il remporte cette récompense en 2007 pour son interprétation de John Locke.
En mai 2009, certaines rumeurs mentionnent le projet d'un parc d'attractions dans les environs de Baltimore sur le thème de la série Lost, les disparus. Terry O'Quinn aurait été approché pour en incarner la mascotte, ainsi que pour prêter ses traits aux John Locke robotisés surgissant de la jungle dans l'attraction baptisée "Black Smoke".