Né dans une famille pauvre de la Nouvelle-Orléans, Louis Armstrong vit son enfance marquée par l'absence de son père : William Armstrong, qui abandonna son fils ainsi que sa petite famille alors que le futur grand trompettiste était encore tout jeune. En grandissant dans un quartier difficile, il fut plusieurs fois envoyé, en raison d'actes de délinquance, dans un foyer pour enfants de couleur abandonnés : le Home for Colored Waifs. Il y fit notamment un long séjour suite (selon les fichiers de la police) à un coup de feu tiré en l'air avec un pistolet, tout simplement pour fêter la nouvelle année. Il apprit à jouer du cornet à pistons dans l'orchestre de ce centre, grâce à son premier instrument offert par les Karnofsky, une famille juive d'origine russe qui s'était prise d'affection pour ce jeune enfant.Il reconnaît dans ses écrits et mémoire que cette famille juive fut le déclencheur de sa réussite, en reconnaissance il porta toute sa vie l'étoile de David sur lui. Il assista fréquemment aux parades des brass-bands et écouta les vieux musiciens dès qu'il en eut l'occasion, apprenant de Bunk Johnson, Buddy Petit et par dessus tout Joe « King » Oliver. Ce dernier fut son mentor et joua presque le rôle du père qu'aurait dû avoir le jeune Armstrong. Il joua plus tard dans les brass bands et sur les bateaux de La Nouvelle-Orléans, et commença à voyager avec le fameux orchestre de Fate Marable, se produisant sur un bateau à vapeur qui naviguait sur le Mississippi. Ces souvenirs furent chers à sa mémoire comme ses belles années d'université, dans la mesure où jouer avec Marable lui fit gagner beaucoup d'expérience. Quand Joe Oliver quitta la ville en 1919, Louis Armstrong prit sa place dans l'orchestre de Kid Ory, considéré comme le meilleur orchestre de hot jazz de La Nouvelle-Orléans. Il fut sans doute l'un des meilleurs trompettistes du XXe siècle.
En 1922, Armstrong prit part à l'exode vers Chicago, où il fut invité par Joe « King » Oliver à se joindre à son Creole Jazz Band. L'orchestre d'Oliver fut le meilleur et le plus influent orchestre de hot jazz de Chicago au début des années 1920, au moment où Chicago était le centre du jazz. Louis Armstrong fit ses premiers enregistrements, parmi lesquels des solos et des improvisations, en tant que second trompettiste dans le groupe de Joe Oliver en 1923.
Louis Armstrong était heureux de travailler avec Oliver, mais sa femme, la pianiste Lil Hardin Armstrong, le pressa de chercher à travailler avec des artistes plus renommés afin de lancer sa carrière. Il se sépara donc amicalement d'Oliver en 1924 et partit pour New York pour jouer avec l'orchestre de Fletcher Henderson, l'un des groupes afro-américains les plus en vue à l'époque. Il fit parallèlement beaucoup d'enregistrements organisés par un de ses vieux amis de La Nouvelle-Orléans, le pianiste Clarence Williams, parmi lesquels des morceaux pour orchestres de jazz restreints (notamment des duos avec
Sidney Bechet, un de ses rares rivaux en matière de technique), ainsi que quelques accompagnements pour des chanteurs de blues.
Il revint à Chicago en 1925 et commença à enregistrer sous son propre nom avec les célèbres Hot Five et Hot Seven, produisant des succès comme Potato Head Blues, Muggles (sur le sujet de la marijuana, pour laquelle Armstrong eut un penchant toute sa vie), West End Blues et Tight Like This. Ces morceaux établirent une nouvelle référence dans le domaine du jazz pour de nombreuses années. L'introduction d'Armstrong à la trompette dans West End Blues reste une des plus célèbres improvisations de l'histoire du jazz.
Armstrong repartit à New York en 1929, puis alla à Los Angeles en 1930, et effectua une tournée à travers l'Europe. En 1935, il se rompt l'orbicularis oris, un muscle labial et est obligé de mettre sa carrière de trompettiste entre parenthèses pendant un an. Les lèvres meurtries, il ne retrouvera jamais sa virtuosité. Après avoir passé de nombreuses années sur la route, il s'installe de façon permanente dans le Queens (New York) en 1943. Bien que soumis aux vicissitudes de Tin Pan Alley et au fait que l'industrie musicale de l'époque était dirigée par des gangsters, il continua à développer ses qualités de musicien.
Pendant les trente années qui suivirent, Louis Armstrong a joué en moyenne plus de 300 concerts par an. Au cours des années 1940, les réservations pour les orchestres ont progressivement diminué à cause des changements de goût du public : les salles de bal se sont fermées, et la concurrence de la télévision et des autres genres de musique qui sont devenues plus populaires que la musique d'orchestre se sont faites de plus en plus fortes. Il est devenu impossible de soutenir et de financer un orchestre de tournée de 16 musiciens.