Krasinski est le plus jeune d'une fratrie de trois frères, il est né à Boston, fils d'un interniste Dr. Ronald Krasinski et Mary, une infirmière. Il a été élevé dans la religion catholique.
Ses débuts d'acteur se font en 2000 avec Séquences et conséquences et multiplie les apparitions dans des films comme Dr. Kinsey et New York Taxi.
En 2005, la chance lui sourit en obtenant l'un des rôles principaux de la série The Office. Il interprète Jim Halpert, employé d'une entreprise de fabrication de papier, se retrouvant confronté avec ses collègues aux facéties de son patron (Steve Carell).
Après quelques seconds rôles pour le cinéma (Dreamgirls, Jarhead, The Holiday) et après avoir prêté sa voix au film d'animation Shrek le troisième, il obtient en 2007 l'un des rôles principaux de Permis de mariage, où il partage la vedette avec Robin Williams, suivi de Jeux de dupes, réalisé par George Clooney.
En 2009, après s'être lancé à la réalisation avec Brief Interviews with Hideous Men, il participe aux films Away We Go, réalisé par Sam Mendes et
Pas si simple, où il cotoye Meryl Streep.