Né de parents immigrés jamaïcains, Carl Lumbly a eu le goût de la littérature par son père, un lecteur avide. Après avoir étudié à la Minneapolis South High School, puis à la Macalester College où il eut un diplôme d'anglais, il débuta une carrière d'écrivain pour la Associated Press de Minneapolis et, pour augmenter ses revenus, il travaillait parfois pour divers journaux et magazines. Alors qu'il était en train de travailler pour une histoire pour la Brave New Workshop, Carl passa une audition et y obtint une place convoitée. Il y resta deux ans, interprétant des improvisations comiques satiriques et politiques.
Il déménagea à San Francisco, travaillant toujours comme journaliste à la Associated Press. Deux jours après son arrivée, il remarqua dans un journal, une annonce demandant deux acteurs noirs pour jouer des rôles dans des productions relatant de politique d'Afrique du Sud. Il passa alors l'audition et rencontra l'autre acteur,
Danny Glover, encore inconnu. Les deux hommes jouèrent ainsi dans deux productions d'Athol Fugard, Sizwe Bansi is Dead et The Island.
Ces interprétations emmenèrent Carl à Los Angeles où il signa avec un agent et peu après, il déménagea à New York. Il eut alors son vrai premier et important rôle à la télévision en jouant le détective Mark Petrie dans Cagney & Lacey. Lumbly eut alors de nombreuses nominations pour des récompenses, comme celle au NAACP Image Award en 1998 pour son rôle dans Buffalo Soldiers. En 2001, il rejoint le casting d'Alias où il joue l'agent de la CIA, Marcus Dixon.
Depuis le 29 mai 1987, il est marié à l'actrice Vonetta McGee qu'il rencontra sur le plateau de Cagney & Lacey et eut un fils avec elle. Pendant son temps libre, Carl aime sprinter sur les plages, jouer au basket-ball et au golf.