Fils de Virginia et William Jeter (dentiste), Michael Jeter étudie à l'Université de Memphis. Il connaît ses premiers succès sur les planches, notamment avec des pièces de théâtre et des spectacles musicaux comme Alice in Concert et Grand Hotel, qui vaut à Jeter un Tony Award pour sa prestation en 1990.
Au cinéma, c'est en tant que second rôle marquant : mis à part Drop Zone, Waterworld, il s'est fait connaître surtout grâce à ses interprétations dans Las Vegas Parano où il incarnait un spécialiste de la drogue décalé,
La Ligne verte (où il incarnait Edouard Delacroix, le détenu avec la souris Mr. Jingle), Jurassic Park 3 et
Open range, l'un de ses derniers films.
À la télévision, il fut M. Noodle dans la série 1 rue Sésame. Il fut récompensé d'un Emmy Award pour son rôle dans la sitcom Evening Shades.
Homosexuel et ayant eu des problèmes d'alcoolisme et d'addiction à la drogue, il vivait avec Sean Blue (de 1995 jusqu'en 2003, année de sa mort) et était séropositif depuis 1997.
Le film Le Pôle Express (Boréal Express au Québec) lui est dédié.