Jean-Jacques Annaud est issu d'un milieu modeste. Son héros était
Jean Renoir qui poussait à comprendre les raisons de l'Autre. Il a fait des études de lettres, il a étudié le grec ancien. Après avoir suivi l'enseignement de l'École Louis-Lumière, puis de l'IDHEC, il fait ses armes en réalisant des films publicitaires. Il obtient l'oscar du meilleur film étranger en 1976 pour son premier film, la Victoire en chantant. Jean-Jacques Annaud est alors sollicité pour réaliser Coup de tête, écrit par
Francis Veber et interprété par
Patrick Dewaere.
Il s'attaque ensuite à des projets coûteux et ambitieux tels que
la Guerre du feu (1981) ou bien encore l'Ours (1988), deux films pour lesquels il reçoit le césar du meilleur réalisateur, et montre un savoir-faire de technicien solide quand il adapte
Le Nom de la rose d'Umberto Eco en 1986 ou L'Amant de
Marguerite Duras en 1992.
Bien que souffrant souvent d'une mauvaise presse, il est réputé pour être perfectionniste et un technicien hors pair, s'attachant à superviser lui-même chaque étape de la fabrication de ses films (et de leur portage sur DVD).
Il aime les religions animistes et païennes qui font voir que nous sommes issus de la même souche et il se définit comme anticolonialiste. Il adore la nature. Sauf Coup de tête ses films renvoient au passé. Il aime visiter des lieux qu'on ne verrait pas ailleurs qu'au cinéma. Il aimerait tourner un film de science-fiction, mais n'a pas encore trouvé le bon sujet.
Henri Verneuil, en 1995, disait qu'on ne parlait guère des grands réalisateurs que sont Jean-Jacques Annaud et
Luc Besson.
Le 21 novembre 2007, il est élu à l'Académie des beaux-arts au fauteuil de Gérard Oury (1919-2006).