Il est le fils de l'acteur Valentin Sardou et de Sardounette (pseudonyme de Joséphine Plantin), qui se produisaient avec le chanteur de caf'conç Félix Mayol.
Fernand Sardou n'était pas un brillant écolier, et très vite, il est atteint par le virus de la chanson.
Il fait ses premières armes dans de petites salles de concerts, après avoir été livreur de lait et manoeuvre dans une entreprise de jardinage, et alors que ses parents sont partis au Maroc tenter leur chance. Finalement il rejoindra ses parents au Maroc, sur les recommandations de sa grand-mère, cette dernière trouvant qu'il tourne mal.
Il fait son service militaire à Casablanca, puis part en tournée au Brésil.
A la mort de ses parents en 1933, il quittera définitivement le Maroc, et rejoindra Paris.
Pendant la seconde guerre mondiale, il part pour la Provence où il se produira et connaîtra quelques succès. Il se liera d'amitié avec le prince Rainier III.
Le 7 juillet 1945, à la mairie du 18ème arrondissement de Paris, il se marie à Jacqueline Labbé, dite Jackie Rollin, dite
Jackie Sardou. En 1947, naissance de leur fils,
Michel Sardou.
Un peu plus tard, Fernand Sardou connaît son premier grand succès à l'Alhambra à Paris, en vedette américaine d'Édith Piaf avec sa chanson Aujourd'hui peut-être (1946).
Devenu célèbre, il est l'acteur-chanteur méridional préféré des français. En 1949, il fait un triomphe dans Méditerranée avec
Tino Rossi. C'est ensuite une succession de spectacles, opérettes, puis l'aventure du cabaret Chez Fernand Sardou, rue Lepic à Paris, où
Michel travaillera comme serveur.
Fernand Sardou a notamment joué dans des films de
Marcel Pagnol,
Henri Verneuil,
Jean Renoir... et on le verra jouer dans un épisode des Cinq Dernières Minutes, Poing Final, en 1960, avec
Raymond Souplex.
Il est également le Grand-père du romancier Romain Sardou et du comédien Davy Sardou.
Fernand Sardou est inhumé dans le cimetière de Neuilly-sur-Seine avec son épouse
Jackie Sardou.