LL Cool J est né à New York, dans le quartier de Saint-Albans (Queens), mais grandi à Bay Shore. Il passe sa jeunesse dans la chorale paroissiale.
Il signa chez Def Jam en 1984 (enregistrement en janvier 1985) où il sortit son premier tube la même année, I Need a Beat. La chanson était le premier succès pour Def Jam, ce qui a persuadé LL Cool J de quitter l'école pour enregistrer son premier album, Radio incluant les titres I Can't Live Without My Radio et Rock the Bells. En 1987, il sortit Bigger and Deffer, dont la ballade I Need Love fut un tube innovant.
En 1990, LL Cool J sortit Mama Said Knock You Out, l'album le plus « hardcore » qu'il ait réalisé, qui a rétabli sa notoriété dans le milieu du hip hop. Après avoir tourné dans The Hard Way et Toys, il sort son cinquième album, 14 Shots to the Dome, suivit d'un sixième, Mr. Smith incluant les singles Doin' It et Loungin. En 1996, il a également aidé à lancer une ligne de vêtements appelée FUBU (For Us By Us). En 1999, LL Cool J a tourné dans Any Given Sunday (L'enfer du Dimanche) et a participé à la bande originale du film avec le morceau Shut 'Em Down.
En 2002, il sortit l'album 10 (il s'agissait de son dixième album), qui inclut les singles Paradise (avec Amerie), Luv U Better, et l'un des tubes de l'année 2003 : All I Have (avec
Jennifer Lopez). The Definition, est sorti en 2004. Son dernier album s'intitule Todd Smith, et il est paru en avril 2006 et comporte le tube Control myself encore une fois en featuring avec
Jennifer Lopez. De plus, il devrait sortir un livre prochainement : LL Cool J's Platinum Body, où il présente toutes ses astuces pour avoir un corps musclé. Il s'agit en fait d'un programme de fitness - collège AM destiné aux hommes et aux femmes.
Depuis septembre 2009, il incarne à la TV (au côté notamment de Chris O'Donnell) l'agent Sam Hanna dans le spin-off de la série NCIS, NCIS-Los Angeles.
Aujourd'hui, il vit avec sa femme et ses 4 enfants à New York.