Peter Weller est né à Stevens Point, dans le Wisconsin. Il est le fils de Dorothy Jean (née Davidson) et Frederick Bradford Weller, avocat puis juge fédéral et pilote de carrière d'hélicoptère dans l'armée.,
En raison du travail de son père, sa famille s'installe pour quelques années en Allemagne avant de rejoindre le Texas. Peter fréquente alors la Alamo Heights High School de San Antonio, puis la University of North Texas. Il joue de la trompette dans un groupe du campus. Il est diplômé du Bachelor of Arts in Theatre et commence une carrière d'acteur après avoir été diplômé de American Academy of Dramatic Arts.
La carrière de Peter Weller débute sur les planches de Broadway dans les années 1970 dans Full Circle mis en scène par Otto Preminger et Summer Brave de William Inge. Après cela, il devient un membre de l'Actors Studio.
Après quelques apparitions à la télévision, il tourne son premier film sous la direction de Richard Lester en 1979. Dans la foulée, il tourne avec d'autres réalisateurs de renom tels que David Cronenberg et Alan Parker.
En 1984, il retrouve son ami de longue date Jeff Goldblum, avec qui il jouait dans un groupe de jazz, dans le film Les Aventures de Buckaroo Banzaï à travers la 8e dimension.
Mais c'est en 1987 que Peter Weller trouve son rôle le plus célèbre : celui de l'officier de police Alex Murphy dans RoboCop de Paul Verhoeven. Il participera également à RoboCop 2 en 1990 avant de décliner RoboCop 3 pour tourner
Le Festin nu de Cronenberg en 1992.
L'année suivante, il passe à la mise en scène pour le téléfilm de 36 minutes Partners dont il est également co-scénariste.
En 1995, il joue dans Maudite Aphrodite, le film à succès de Woody Allen, puis dans Planète hurlante, adapté d'une nouvelle de Philip K. Dick et réalisé par Christian Duguay.
En 1997, il dirige David Caruso et Marg Helgenberger dans le téléfilm Gold Coast, adapté du roman éponyme d'Elmore Leonard.
Après de nombreux films « mineurs », il décroche le premier rôle de la série Odyssey 5 en 2002, qui ne durera malheureusement qu'une seule saison.
Il fait ensuite des apparitions guest star dans des séries comme FBI : opérations secrètes et Star Trek : Enterprise, avant de revenir sur le devant de la scène avec son personnage de Christopher Henderson qui apparaît dans quelques épisodes de la Saison 5 de 24 heures chrono en 2006.
En décembre 2006, Weller incarne Frank Lloyd Wright dans Frank's Home, une pièce de théâtre de Richard Nelson jouée au Goodman Theatre de Chicago.
En janvier 2010, Weller apparaît dans le documentaire God of War: Unearthing the Legend pour le jeu vidéo God of War III.
En avril 2010, il joue dans un épisode de la saison 2 de Fringe, puis décroche un rôle récurrent dans la saison 5 de Dexter.