Newman est né en Californie mais a passé une partie de sa jeunesse à la Nouvelle Orléans avec la famille de sa mère. C'est là bas qu'il a acquis son accent de sudiste.
Il est reconnu comme un compositeur et un interprète de chansons très originales, parfois acides. Parmi les plus connues : "Sail away", "Birmingham", "I love L.A.", "Baltimore", "Louisiana 1927".
Il s'est fait connaître tout d'abord avec le groupe Harpers Bizarre (formé en 1963 et dissous en 1970), et leur succès de 1967 : "59th street bridge song", reprise de la chanson de Paul Simon "Feelin' Groovy". Il fera ensuite une carrière solo, avec un premier album en 1968 "Randy Newman creates something new under the sun". Ce ne fut pas un succès commercial, mais de nombreux artistes ont repris ses chansons :
Alan Price (pianiste du groupe anglais The Animals) ,
Judy Collins, the Everly Brothers, Dusty Springfield.
En 1970, Harry Nilsson a enregistré l'album "Nilsson Sings Newman", avec Newman au piano, qui fut apprécié par les critiques musicaux mais n'a pas eu le succès musical espéré, malgré une reprise de "Love Story" qui était sur son premier disque.
Randy Newman n'eut guère plus de réussite auprès du grand public avec son second album "12 Songs" sorti en 1970. Ses chansons assez sophistiquées, qui parlaient notamment du racisme ou de la violence, n'étaient pas dans le ton de l'époque, son talent de compositeur était toutefois reconnu avec "Mama told me not to come" et "Old Kentucky home". Pour ce second album, Randy Newman était accompagné d'excellents musiciens de studio comme
Ry Cooder, Jim Gordon et Clarence White.
Newman eut son premier succès commercial avec l'album "Sail Away". De nombreuses chansons furent à nouveau reprises par d'autres interprètes comme
Ray Charles ("Sail Away") et
Joe Cocker ("You Can Leave Your Hat On").
Dans son album suivant, Good Old Boys, Newman a composé des chansons sur le Sud des États-Unis, dans laquelle il évoque Lester Maddox (ancien gouverneur ouvertement ségrégationniste de Géorgie) : "Rednecks" . Dans "Rednecks", il semble d'abord ironiser sur l'idéologie des "petites gens" du Sud, considérés comme racistes et stupides («We're Rednecks, and we don't know our ass from a hole in the ground»), mais il révèle ensuite combien le Nord a durement traité les Noirs, de telle sorte qu'à la fin, on ne sait quel camp il faut choisir et de quelle "opinion" il se réclame («Now your northern Nigger is a Negro... the north has set the Nigger free, yes he's free to be put in a cage in Harlem in New York City... ». L'album comporte des chansons plus légères ("Rollin") ou tendres ("Marie"). Ce fut un succès commercial, l'album devenant n°36 au Billboard.
Little Criminals fut aussi une réussite, avec notamment "Short People" une chanson ressentie comme assez ambiguë par ceux qui ne comprennent pas qu'on peut se moquer des nains tout en décrivant leur univers mental et les souffrances que le fait d'être petit et le regard des autres leur infligent. Newman raconte les nains comme il chante les Sudistes, avec un mélange de rire sarcastique et d'empathie basé sur le fait que les personnes réelles ne sont ni entièrement bonnes ni entièrement mauvaises. Et que ceux qui donnent ordinairement au monde des leçons de morale sont bien souvent ceux qui devraient être les derniers à en donner...
En 1973, l'ex Beatles
Ringo Starr chante "Have you seen my baby", composée par R. Newman, dans l'album Ringo.
En 1983, il composa Trouble in Paradise qui eut plus de succès que ses albums antérieurs, grâce notamment à "I Love L.A.". Plus tard, en 1990, il adapta
Faust de Goethe dans un concept album (Randy Newman tient le rôle du diable évidemment) et un spectacle musical.