Acteur italien par excellence, assurément le plus célèbre du monde du cinéma international des trois décennies suivant la Seconde Guerre mondiale, il conquiert sa notoriété sans faire de vagues, à l'inverse d'autres acteurs de sa génération. De 1938 à 1943, il obtient des rôles de figurant ou « d'utilité » dans quelques films, puis, en raison de l'opposition familiale au fascisme, se voit obligé de se cacher jusqu'à la fin des hostilités de la Seconde Guerre mondiale. Dès 1945, il s'inscrit au Centre universitaire de théâtre (Centro Universitario Teatrale) où il fait la connaissance de Luchino Visconti qui lui procure un rôle dans une pièce de théâtre qu'il dirige, Un tramway nommé désir. Lors de ses prestations théâtrales, il va avoir l'occasion de jouer avec Giulietta Masina et ainsi de lier connaissance avec son mari, Federico Fellini; cette rencontre a une influence considérable sur sa carrière.
Au cinéma, il va de rôles mineurs en rôles très secondaires jusqu'en 1955 où il obtient sa première récompense, un Ruban d'argent pour son rôle de Pasquale dans Jours d'amour (Giorni d'amore) réalisé en 1954 par Giuseppe De Santis et Leopoldo Savona.
Ses capacités d'adaptation aux rôles qu'on lui propose lui permettent de jouer aussi bien avec des réalisateurs de la période des Téléphones blancs tels Mario Camerini en 1953 et 1955 ou Alessandro Blasetti en 1954, 1955, 1956 puis 1965, qu'avec des réalisateurs du néoréalisme tels que Giuseppe De Santis en 1954, Luchino Visconti en 1957 et 1967 ou Vittorio De Sica en 1963, 1964, 1968 et 1970.
Après ce premier Ruban d'argent (il en obtient sept durant sa carrière et un posthume), c'est Luchino Visconti, son mentor de théâtre, qui lui procure un nouveau jalon vers la renommée en 1957 avec le rôle principal de Mario dans Nuits blanches (Le Notti bianche) d'après le roman homonyme de Fiodor Dostoïevski.
Puis, en 1960,
Fellini lui propose le rôle de Marcello Rubini dans son film
La Dolce Vita qui va rapidement se révéler être un film culte et remporter nombre de récompenses dont la Palme d'or la même année. C'est le début de la réputation de « latin lover » pour Mastroianni, ce dont il se défend toute sa vie.
Dès lors, il alterne les rôles dans des comédies à l'italienne (commedia all'italiana) comme Les Joyeux Fantômes d'Antonio Pietrangeli, Divorce à l'italienne de Pietro Germi ou Mariage à l'italienne de
Vittorio de Sica pour lesquels il obtient des récompenses aussi bien italiennes qu'internationales, et dans des films du courant dit de la politique des auteurs (politica degli autori) tels que
La Nuit de Michelangelo Antonioni, Huit et demi de
Fellini ou L'Étranger de Luchino Visconti.
Son parcours d'acteur l'amène à jouer avec les plus grands réalisateurs italiens tels que Mauro Bolognini, Ettore Scola, Elio Petri ou Dino Risi y compris ceux du courant cinématographique italien de l'engagement (impegno), Marco Bellocchio et Marco Ferreri. Jusqu'en 1985, de célèbres réalisateurs étrangers, aux styles aussi divers que Jules Dassin, Louis Malle, Terence Young, John Boorman, Nadine Trintignant, Roman Polanski, Jacques Demy, Yves Robert le feront jouer.
À partir de 1985, sans toutefois rompre avec le cinéma italien, sa carrière est de plus en plus axée vers des réalisateurs étrangers. On le voit devant la caméra grecque de Theo Angelopoulos, russo-italienne de Nikita Mikhalkov pour
Les Yeux noirs (qui lui valent un Prix d'interprétation masculine au Festival de Cannes), française de Bertrand Blier ou Agnès Varda, américaine de Robert Altman, franco-chilienne de Raoul Ruiz, portugaise de Manoel de Oliveira.
Dans les douze dernières années de sa vie, il ne se passe quasiment pas une année sans qu'une récompense ne vienne l'honorer. Il est nommé trois fois aux Oscar du cinéma en 1963, 1978 et 1988 mais n'obtient jamais la récompense.
Marcello Mastroianni avait un frère, Ruggero Mastroianni, de cinq ans son cadet, décédé trois mois avant lui, qui exerçait le métier de chef monteur, que l'on retrouvait très souvent dans les mêmes génériques que son frère et qui a énormément travaillé avec
Fellini. En 1948, Mastroianni épouse une actrice de théâtre, Flora Carabella (décédée en 1999) dont il ne divorce jamais malgré leur séparation en 1970. Ils eurent ensemble une fille, Barbara, née en 1951 qui fait son chemin dans le cinéma en devenant une costumière réputée. En 1971, sur le tournage de Liza de Marco Ferreri, Mastroianni fait la rencontre de Catherine Deneuve avec laquelle il a une fille,
Chiara, née en 1972, qui devient actrice et que l'on voit aux côtés de son père dans
Les Yeux noirs et Trois vies et une seule mort.
Marcello Mastroianni est décédé à Paris, d'un cancer du pancréas, le 19 décembre 1996.