Luchini est issu d'une famille d'immigrés italiens, marchands de fruits et légumes. Il grandit dans le quartier de la Goutte-d'or à Paris XVIIIe. Il n'est pas attiré par l'école et sa mère le place comme apprenti coiffeur à 13 ans dans un salon chic de l'avenue Matignon, il prend comme nom de garçon coiffeur Fabrice. Il cultive parallèlement, en autodidacte, son goût prononcé pour la littérature (Balzac, Flaubert, Proust). Il est passionné par la musique soul et James Brown, fréquente les discothèques. Philippe Labro, qui lui donne son premier rôle dans Tout peut arriver en 1969, le remarque alors qu'il est animateur d'une boîte de nuit à Angoulême. Il décide de suivre un cours d'art dramatique chez Jean-Laurent Cochet, puis rencontre Éric Rohmer qui lui donne une certaine notoriété avec Le Genou de Claire en 1970, Perceval le Gallois en 1978 et Les Nuits de la pleine lune en 1984.
Il tourne avec Oshima,
Zucca,
Klapisch,
Lelouch et Molinaro. Mais c'est son rôle dans La Discrète de Christian Vincent en 1990 qui le fait connaître du grand public. Il devient l'un des acteurs les plus demandés dans les années 1990.
Il découvre alors, notamment grâce à Jean-Laurent Cochet, le théâtre, sa véritable passion, « seul lieu où s'exprime la vie, la nourriture de la vie, ce qu'aucune école n'enseignera jamais ». Il partage son activité entre le cinéma et la scène et rencontre un important succès en déclamant des textes de La Fontaine, de Nietzsche, de Céline (avec Voyage au bout de la nuit), de Paul Valéry, de Philippe Muray ou de Roland Barthes.
Fabrice Luchini possède une maison, voisine de celle de Lionel Jospin dans l'île de Ré.