Josh est le fils de l'acteur américain James Brolin et de Jane Cameron Agee, une activiste. Il grandit dans un ranch, à l'écart de la célébrité de son père. Ses parents divorcent quand il a 18 ans et son père se marie ensuite avec Barbra Streisand.
Sa carrière est lancée en 1985 avec le film Les Goonies de Richard Donner, dans lequel il incarne Brand, le « grand frère » de la bande. Suite au succès du film, il est envisagé pour être la vedette de la série 21 Jump Street. C'est finalement son ami Johnny Depp qui obtient le rôle. Brolin apparaîtra cependant dans un épisode de la 1re saison.
Il apparaît ensuite dans d'autres séries comme Les Routes du paradis et dans quelques téléfilms. Après des critiques négatives sur sa performance dans Skate Gang en 1986, il quitte le « système » et se produit quelques temps dans un théâtre de Rochester dans l'État de New York avec son ami et mentor Anthony Zerbe.
En 1989, il décroche un rôle récurrent de la série western L'Équipée du Poney Express, diffusée sur ABC, où il incarne James Butler Hickok. La série durera jusqu'en 1992. Il joue ensuite dans Winnetka Road, une série produite par Aaron Spelling, qui s'arrête au bout de quelques épisodes.
En 2003, il est la vedette de la série Mister Sterling, où il incarne un sénateur. En raison du peu d'audience, la série s'arrête à 10 épisodes seulement.
Il joue peu à peu dans des films, avec le plus souvent des rôles de méchants, à l'instar de Planète Terreur de Robert Rodriguez en 2007. Il collabore également avec de grands metteurs en scène, comme Woody Allen pour Melinda et Melinda (2004), les
frères Coen pour No Country for Old Men (2007), Ridley Scott pour American Gangster (2007), ...
En 2008, il écrit et réalise le court-métrage X. La même année, Oliver Stone lui offre le rôle du Président américain George W. Bush dans W. : L'Improbable Président. Il retrouve le réalisateur en 2010 dans Wall Street : L'argent ne dort jamais, la suite de
Wall Street (1987). Il incarne également le super-héros Jonah Hex dans le film du même nom. Il retrouve ensuite les frères Coen pour True Grit, une réadaptation du roman de Charles Portis, déja porté à l'écran en 1969 dans Cent dollars pour un shérif, avec John Wayne.
Il épouse l'actrice Alice Adair en 1988 avec laquelle il a deux enfants : Trevor Mansur (né le 26 juin 1988) et Eden (né en 1993). Ils divorcent en 1992. Il a ensuite une relation de 6 mois avec l'actrice britannique Minnie Driver.
Josh Brolin se remarie avec L'actrice Diane Lane le 14 août 2004. Le 20 décembre de la même année, elle appelle la police suite à une altercation avec lui. Il est alors interpellé. Diane Lane ne porte pas plainte et le porte-parole du couple parle d'un « malentendu ».