Il grandit à Peekskill, New York et rencontre à l'école Nicholas St. John, avec qui il écrira la plupart de ses films. Il commence en réalisant des films amateurs en Super 8 sous le pseudonyme de Jimmy Boy L. jusqu'en 1979. En 1979, sa carrière commence vraiment avec son film d'horreur
Driller Killer, qui, remarqué par
William Friedkin, lui offrira la possibilité de tourner son deuxième film, L'Ange de la vengeance, avec un budget plus élevé. En 1985, après avoir réalisé New York, deux heures du matin, Ferrara réalise deux épisodes de Miami Vice ("The Home Invaders" et "The Dutch Oven"), et c'est durant cette période qu'il se lie d'amitié avec
Michael Mann. En 1987, il se relance dans les films new-yorkais.
The King of New York sort en 1990 et est suivi, deux ans plus tard, par le controversé Bad Lieutenant, ces deux films ont remporté un succès public important et ont assis sa réputation de cinéaste. Durant les années qui suivront, Ferrara continue à tourner sans vraiment retrouver le succès de
The King of New York et Bad Lieutenant.
Depuis le début de sa carrière, Abel Ferrara s'est souvent entouré du scénariste Nicholas St. John, du compositeur Joe Delia, du frère de ce dernier, directeur de la photographie, Francis Delia et de l'actrice et scénariste feue Zoë Lund. Il a notamment offert des rôles importants à
Béatrice Dalle (The Blackout avec
Dennis Hopper) et
Juliette Binoche (
Mary). La plupart de ses films se déroulent à New York.