David Duchovny est né d'un père juif d'origine russe et d'une mère protestante d'origine écossaise. Ils divorcent l'année où David fête ses onze ans. C'est un enfant très timide et réservé, ce qui amuse son frère qui aime faire croire qu'il est attardé mentalement. Pourtant ce n'est pas le cas, et David se destine à l'enseignement et obtient un diplôme de littérature anglaise à l'université de Princeton et aussi une maîtrise à Yale, université où il commence à s'intéresser à l'art dramatique. Il apparaît alors dans quelques pièces locales.
C'est alors qu'un ami le convainc d'auditionner pour une publicité vantant les mérites d'une bière, et qu'il obtient le rôle. Content de son expérience devant les caméras, il décide d'arrêter ses études et de se lancer dans une carrière d'acteur en 1987. Grâce à la publicité, quelques producteurs le remarquent et lui offrent des rôles dans des films comme
Quand les femmes s'en mêlent (Working Girl, 1988), Denial (1991),
Beethoven (1992) et d'autres films mais aussi un rôle dans la célèbre série Twin Peaks où il joue le rôle d'un policier travesti. En 1993 on le voit au côté de Brad Pitt dans Kalifornia.
Sa carrière décolle enfin en 1993, grâce au rôle de Fox Mulder dans la série The X-Files.
En 2004, il réalise et scénarise le film House of D.
Il revient à la télévision en 2007 en tant qu'acteur et producteur dans la série Californication, où il incarne un écrivain new-yorkais exilé en Californie, en manque d'inspiration et séparé de sa compagne. Pour ce rôle, il obtient le Golden Globe du Meilleur acteur dans une série télévisée musicale ou comique 2008.
De 1993 à 1995, sa petite amie est l'actrice Perrey Reeves (Entourage (série télévisée)), qui apparaît à ses côtés dans un épisode de la saison 2 de X-Files.
Le 5 mai 1997, il se marie, à la Grae Church de Manhattan, avec l'actrice principale de la sitcom Une fille à scandales, Téa Leoni. De cette union naissent deux enfants : une fille, Madelaine West (24 avril 1999) et un garçon, Kyd Miller (15 juin 2002). À la fin de la 7e saison de The X-Files, David décide de quitter la série pour se consacrer à sa vie de famille et au cinéma. Le 15 octobre 2008, David et Téa confirment qu'ils se séparent après ces onze ans de mariage.
Depuis 2002, plusieurs rumeurs circulent sur son appartenance à la scientologie. Bien qu'il n'en ait jamais ouvertement parlé à la presse, il en fait une critique dans un épisode de la série Californication.