Né à Londres, Jared est le fils de l'acteur irlandais Richard Harris et l'actrice galloise Elizabeth Rees-Williams. Il est le frère de l'acteur Jamie Harris et du réalisateur-scénariste Damian Harris. Sa mère a également été mariée à l'acteur Rex Harrison de 1971 à 1975.
En 1984, Jared Harris décroche un BFA à l'Université Duke.
Il débute en 1983 en réalisant le film Darkmoor à l'Université. Mais c'est en 1989 qu'il décroche son premier rôle dans Le Dossier Rachel réalisé par son frère Damian.
En 1992, il tourne ensuite aux côtés de Tom Cruise dans
Horizons lointains de Ron Howard avant de décrocher un petit rôle dans
Le Dernier des Mohicans de Michael Mann.
Après un petit rôle dans Tueurs nés d'Oliver Stone, il en décroche un plus conséquent dans
Nadja produit par David Lynch.
Il enchaîne alors de nombreux « seconds rôles » notamment dans Perdus dans l'espace en 1998, adaptation de la série télévisée du même nom.
En 2004, il apparaît dans Resident Evil: Apocalypse, 2e volet de la saga Resident Evil.
Après divers apparitions à la télévision, il joue dans 4 épisodes de Fringe en 2008 puis dans les saisons 3 et 4 de Mad Men, où il incarne Lane Pryce.
Courant 2010, il est choisi pour incarner le Professeur Moriarty, le célèbre ennemi de Sherlock Holmes dans Sherlock Holmes 2 de Guy Ritchie, prévu pour fin 2011.
Il a été marié de 2005 à 2010 à l'actrice Emilia Fox.