Il est né le 5 avril 1937 à Harlem (New York), dans une famille d'immigrants jamaïcains et fut élevé dans le quartier de South Bronx. Il a des ancêtres africains, écossais et irlandais.
Sa mère était couturière et son père ouvrier.
Vétéran du Viêt Nam, il est parmi les premiers conseillers envoyés par Kennedy, et est blessé. Après deux séjours au Viêt Nam, il est nommé officier de liaison auprès du Secrétariat à la Défense, en poste à Washington. Colin Powell est le premier afro-américain à accéder au poste de chef d'État-major des armées d'août 1989 à 1993, sans être passé ni par West Point, ni par l'Académie navale d'Annapolis. En tant que chef d'État-Major des Armées, il conduit les troupes américaines et alliées à la victoire face à
Saddam Hussein lors de la première guerre du Golfe. Il est le 65esecrétaire d'État, du 20 janvier 2001 au 26 janvier 2005.
Une doctrine militaire porte son nom, la doctrine Powell, dans laquelle il définit les règles pour un engagement des États-Unis dans un conflit militaire.
- Second Lieutenant (Sous-lieutenant) : 9 juin 1958
- First Lieutenant (Lieutenant) : 30 décembre 1959
- Captain (Capitaine) : 2 juin 1962
- Major (Commandant) : 24 mai 1966
- Lieutenant Colonel (Lieutenant-colonel) : 9 juillet 1970
- Colonel : 1er février 1976
- Brigadier General (Général de brigade) : 1er juin 1979
- Major General (Général de division) : 1er août 1983
- Lieutenant General (Général de corps d'armée) : 1er juillet 1986
- General (Général d'armée) : 4 avril 1989
De 1987 à 1989, il est le Conseiller à la sécurité nationale du président
Ronald Reagan et à ce titre préside le Conseil National de Sécurité en remplacement de Frank Carlucci. Il est le premier Afro-américain et le plus jeune officier à occuper de telles fonctions. De sensibilité plutôt démocrate, le général Powell reste fidèle au parti de Reagan (républicain), entraînant avec lui bon nombre de Noirs américains, séduits par le culte de l'effort personnel ("self-help") et de la réussite individuelle, spécifiques des années Reagan. Grand admirateur aussi de
Martin Luther King, il dit un jour que « le temps des droits civiques appartient désormais à l'histoire ancienne des États-Unis. » Il participe et au renversement du dictateur panaméen Manuel Noriega en 1989 et à la guerre du Golfe en 1990-91.
Un temps pressenti comme candidat républicain à la présidence des États-Unis, il y renonce, tout comme il décline la proposition du candidat Bob Dole d'être son colistier pour la présidentielle de 1996.
George W. Bush, 43e président des États-Unis, le nomme au poste de secrétaire d'État le 16 décembre 2000, le Sénat approuvant ce choix à l'unanimité.
Le 5 février 2003, devant le Conseil de Sécurité de l'ONU, il donne des preuves très controversées sur l'existence d'armes de destruction massive en Irak. Il exprimera deux ans plus tard son "amertume" : interrogé sur ABC, il explique que cette présentation, en grande partie fausse, fait "tache" dans sa carrière.
Lors de la campagne électorale de 2004, il avertit de son souhait de ne pas continuer sa responsabilité au sein du Cabinet, il présente donc sa démission le 15 novembre 2004 au président George W. Bush après sa réélection. Il est alors remplacé au poste de secrétaire d'État par la conseillère à la sécurité nationale
Condoleezza Rice.
Lors de la campagne électorale de 2008, 15 jours avant le vote, il décide finalement d'apporter son soutien au candidat démocrate Barack Obama.
- Republic of Vietnam Gallantry Cross Unit Citation
- Republic of Vietnam Campaign Medal
- Chevalier de l'Ordre du Bain (Royaume-Uni)
- Commandeur de la Légion d'honneur (France)
- Meritorious Service Decoration (Canada)
- Prix Alexis de Tocqueville 2006