Encore jeune, il interrompt ses études et se rend à Paris où il devient figurant au Théâtre du Châtelet, puis à l'Opéra. Il est ensuite engagé comme régisseur stagiaire au Théâtre des Mathurins chez Marcel Herrand. Il fait de la figuration dans différents films (notamment dans
Les enfants du paradis et dans Les démons de l'aube). Il rejoint ensuite la troupe des Branquignols de Robert Dhéry. Il multiplie alors les rôles au cinéma.
Son rôle de Gaston Duvet dans le feuilleton radiophonique
La Famille Duraton fait connaître sa voix dans les années 1950. Sa renommée internationale s'installe en 1976 avec le film La Victoire en chantant. Sa célébrité en France date du
Grand Blond.
Sa carrière est riche, il apparaît dans plus de deux cents films. Il est nommé pour le César du meilleur acteur en 1986 pour
Miss Mona et il remporte deux César du meilleur acteur dans un second rôle pour Les Misérables (en 1983) et pour
Merci la vie (en 1992). Il reçoit également un César d'honneur en 1994 des mains de
Gérard Depardieu, son ami.
Lui qui est un vrai rabelaisien incarne souvent le « beauf franchouillard » inquiétant (
Dupont Lajoie) ou cocasse (Le beaujolais nouveau est arrivé).
Lorsqu'il tournait, il quittait sa famille pour aller vivre dans une chambre d'hôtel afin de ne pas être déconcentré. Il fut un habitué également des halls de gare qui lui servirent de logement à ses débuts. Ses amis racontent que lorsqu'il ne tournait pas, il venait parfois les voir jouer pour aller saluer le public à la fin de la pièce. Les spectateurs se demandaient alors qui était ce personnage qu'ils ne se souvenaient pas d'avoir aperçu dans la pièce. Il avait accepté le premier rôle de Le bonheur est dans le pré d'Étienne Chatiliez ; mais la mort l'ayant rattrapé, c'est son ami
Michel Serrault qui prit sa place.
En 1999 sort le livre "Je suis le badaud de moi même" qu'il avait écrit avant sa mort, aux éditions Plon.
Il est inhumé à Paris, au cimetière du Montparnasse.
À ses obsèques seront présents :
Jean-Pierre Coffe,
Michel Serrault,
Gérard Depardieu,
Pierre Tchernia,
Michel Galabru,
Jean Lefebvre,
Pierre Richard,
Robert Hossein,
Bertrand Blier,
Jean-Claude Brialy,
Miou-Miou,
Roland Giraud,
Francis Veber,
Jean-Pierre Marielle, Yves Robert,
Claude Chabrol,
Pierre Mondy,
Michel Bouquet, Yves Boisset,
Georges Lautner,
Victor Lanoux,
Michel Piccoli,
Jean Rochefort,
Michel Blanc,
Jacques Villeret, etc.