D'origine juive italienne, il est le frère de Bruno Pontecorvo, physicien nucléaire travaillant pour l'URSS ; chimiste de formation, il se tourne rapidement vers le journalisme et devient correspondant à Paris de plusieurs publications italiennes. En 1941, il rejoint le Parti communiste italien et participe à des activités antifascistes dans le nord de l'Italie. Après la répression soviétique de l'insurrection de Budapest en 1956, il rompt avec le PCI, tout en continuant à se revendiquer du marxisme.
Il débute au cinéma après la Seconde Guerre mondiale comme assistant d'Yves Allégret et
Mario Monicelli notamment. À partir de 1953, il réalise ses premiers essais documentaires (Giovanna, MM, 1956). En 1956, il contribue à un épisode de la Rose des vents (Die Windrose), supervisé par Alberto Cavalcanti. L'année suivante, il dirige son premier long métrage, Un dénommé Squarcio (La grande strada azzura, co Maleno Malenatti, d'après un roman de Franco Salinas). Puis il décrit l'univers concentrationnaire et s'impose en 1960 avec Kapò, histoire d'une juive qui devient l'auxiliaire des nazis.
En 1966, il met en scène son film le plus important, Bataille d'Alger (La Battaglia di Algeri), remarquable reconstitution d'un épisode fondamental de la guerre d'Algérie, qui sait recréer avec réalisme et objectivité l'action policière de l'armée française pendant la bataille d'Alger. Longtemps interdit en France, ce film, dont l'exploitation provoqua de nombreux remous, a été compensé par le Lion d'or du festival de Venise. Dans Queimada (1971), dominé par l'interprétation de
Marlon Brando, il s'attaque à nouveau au colonialisme, avec une évocation des Antilles au milieu du XIXe s. Plus tard, il ne retrouve pas le taIent de ses débuts. Il réalise un film secondaire, Ogro (1979), centré sur le terrorisme, et collabore au film L'addio a Enrico Berlinguer (1984). En 1992, il a été nommé directeur du Festival de Venise.
Gillo Pontecorvo a été membre d'honneur du Club de Budapest.
Il meurt en 2006.