Grâce à son père facteur en semaine et ouvreur le week-end dans le cinéma "Star de la ville", le petit Jean-Pierre découvre le septième art. Arrivé avec ses parents à Cannes en 1962, il veut devenir professeur de français et de latin. Mais à 25 ans, Jean-Pierre Bacri monte à Paris et décide de travailler dans la publicité. Il devient placeur à l'Olympia pour gagner sa vie. Parallèlement, il suit une formation d'acteur au Cours Simon, tout en écrivant des pièces de théâtre. Le Doux Visage de l'amour reçoit d'ailleurs le prix de la Vocation en 1979. La même année, il joue son premier rôle au cinéma dans Toubib, mais c'est sa prestation de proxénète dans Le Grand Pardon en 1981 qui le fait connaître aux yeux du grand public. Il multiplie ensuite les seconds rôles, avant de se retrouver en tête d'affiche de Mort un dimanche de pluie en 1986.
Pourtant, malgré sa popularité avec ses personnages de bougon, râleur, un peu beauf, il se tourne vers l'écriture de scénarios avec Agnès Jaoui. Leur collaboration se révèle fructueuse, récompensée par le césar du Meilleur scénario pour Smoking / No Smoking, Un air de famille, On connaît la chanson et Le Goût des autres. Hormis Smoking / No Smoking, il a interprété des personnages dans tous les autres films et a même obtenu le César du meilleur acteur dans un second rôle dans On connaît la chanson. Dans le même temps, Jean-Pierre Bacri joue dans des comédies comme La Cité de la peur et
Didier et prête sa voix, en 2002, pour Astérix et Obélix : Mission Cléopâtre.
En 2005, il décide de parrainer le collectif Devoirs de Mémoires. En 2006, il joue dans Selon Charlie de Nicole Garcia. Le tandem Bacri-Jaoui revient au cinéma avec Parlez-moi de la pluie, sorti en 2008, cette fois accompagné par Jamel Debbouze.