Melchior Gaston Ferrer est né le 25 août 1917 à Elberon dans le New Jersey dans un milieu aisé (son père était chirurgien). Il fait ses études au Princeton College, où il débute sur scène dans une pièce appelée "Awhile to Work" avec pour partenaire Frances Pilchard qui devient sa première épouse en 1937. Il remporte un prix pour son interprétation.
À Broadway, il est figurant dans plusieurs pièces, danseur (dans You Never Know) et fait ses réels débuts d'acteur à 23 ans. Il travaille également comme disc-jockey au Texas et en Arkansas puis part au Mexique travailler sur un roman. Il dirige et produit également plusieurs émissions de radio pour la NBC. Il fait de modestes débuts de réalisateur avec le film The girl of the limberlist en 1945 puis assiste John Ford sur le tournage du film
Dieu est mort (dans lequel il fait une petite apparition). Il met en scène Claudette Colbert dans Fureur secrète et obtient son premier vrai rôle en 1949 dans Frontières oubliées avec Beatrice Pearson où il joue un docteur de Nouvelle-Zélande.
Remarqué, Mel Ferrer va alors obtenir des rôles beaucoup plus importants, notamment dans Lit de roses en 1950. L'année suivante il est l'amant de Marlène Dietrich dans L'Ange des maudits de Fritz Lang avant d'incarner le célèbre marquis de Maynes dans le classique du film de cape et d'épée Scaramouche face à Stewart Granger et Janet Leigh. En 1953 il est de la comédie musicale Lili, joli succès où il a pour partenaire Leslie Caron.
La même année, il rencontre Audrey Hepburn et songe immédiatement à elle pour une pièce de théâtre de Jean Giraudoux. Les répétitions ne sont pas évidentes, à cause du caractère difficile de Mel Ferrer et la presse l'égratigne. Un critique écrit « Je n'ai pas le sentiment qu'il possède tout à fait le style, en matière de tenue ou de diction, qu'exigerait ce rôle difficile ». Les deux stars tombent amoureuses et se marient le 24 septembre 1954 en Suisse.
Mel Ferrer s'impose à l'écran dans Les Chevaliers de la Table ronde où il tient le rôle du roi Arthur qui dispute l'amour de Ava Gardner à Robert Taylor. Il enchaîne avec Du sang dans le soleil et incarne un fringant capitaine dans Oh ... Rosalinda !. Avec Audrey Hepburn et Henry Fonda, il est de la superproduction Guerre et Paix. Budget faramineux, des milliers de figurants, reconstitutions historiques ... le tournage est long et rude mais le film de King Vidor est un succès. Mel Ferrer y joue un prince Andreï très digne. Il est un des prétendants de Ingrid Bergman l'année suivante dans Elena et les hommes de Jean Renoir puis un écrivain tourmenté dans Le soleil se lève aussi.
Il revient à la réalisation en 1959 avec Vertes Demeures avec sa compagne Audrey Hepburn où il fait reconstituer en studio une partie de la forêt amazonienne. Il est en 1961 de l'aventure Le Jour le plus long aux côtés de grandes stars hollywoodiennes de l'époque comme John Wayne, Henry Fonda ou Robert Mitchum. Autre production d'envergure, qui est pourtant un échec, La Chute de l'empire romain de Anthony Mann en 1963. Il entame ensuite une carrière plus internationale, tournant beaucoup en Europe, notamment en France pour Julien Duvivier ou en Italie pour Luciano Salce. Il réalise un téléfilm, puis un film Cabriola avec Marisol en 1965. Dernière collaboration avec Audrey Hepburn qu'il incite à accepter ce rôle, il produit Seule dans la nuit en 1967. Ils se séparent la même année. Mel Ferrer, être complexe et tourmenté, n'a jamais vraiment accepté le fait que son épouse soit plus connue que lui. Il a lui même déclaré « Lorsqu'une femme éclipse son mari, comme c'est le cas pour Audrey et moi, cela pose problème ». Toutefois ils conservent une bonne entente, notamment pour leur fils, Sean.
Les projets de Mel Ferrer au cinéma s'espacent et sont de moins bonne qualité. En 1977 il joue dans Le Crocodile de la mort de Tobe Hooper puis dans Mille milliards de dollars d' Henri Verneuil en 1981. Après L'OEil de la veuve de Andrew V. McLaglen en 1989, il met fin à sa carrière.
Il revient en 1995 et 1998 pour des apparitions à la télévision mais passe la plus grande partie de son temps dans son ranch californien de Carpinteria. Il emménage dans une résidence pour convalescents de Santa Barbara après des problèmes de santé où il s'éteint le 2 juin 2008, âgé de 90 ans.