De son vrai nom Paul Manfred Glaser, il est né à Cambridge, dans l'État du Massachusetts. Il est le dernier des trois enfants de Dorothy et Samuel Glaser. Il fait ses études à l'Université Tulane, où il obtient une maîtrise d'Anglais et de théâtre en 1966. Son compagnon de chambrée n'est autre que le réalisateur Bruce Paltrow. Il obtient un second Master d'acteur et de réalisation à l'université de Boston en 1967.
Après avoir fait des apparitions dans différentes productions de Broadway, Glaser joue dans son premier long métrage en 1971, où il tient le rôle de Perchik, dans la version cinéma d'Un violon sur le toit. Il se fait remarquer dans une série TV (diffusée l'après-midi), Love is a Many Splendored Thing, où il joue le rôle du Dr. Peter Chernak. Mais il connaît la célébrité grâce à son rôle de sergent détective David Starsky, dans la série Starsky et Hutch, dont il dirige plusieurs épisodes. À la fin de la série, Glaser continue de jouer pour la télévision et le cinéma. Il dirige le film
Running Man en 1987, avec
Arnold Schwarzenegger et
Le feu sur la glace, en 1992. Il dirige des épisodes de plusieurs séries TV. Il retourne au grand écran en 2004 dans
Tout peut arriver et dans la version cinéma de
Starsky et Hutch, où son rôle est repris par
Ben Stiller.