Fils d'un trompettiste Charles Teagarden, et d'une pianiste Helen, Weldon Leo Teagarden est né à Vernon (Texas) en 1905. Il apprend successivement le piano, le saxhorn baryton et, à l'âge de 10 ans, le trombone. La famille déménage au Nebraska, puis en Oklahoma. Dès l'âge de 13 ans, il se produit professionnellement, d'abord avec sa mère, puis dans des orchestres locaux. C'est dans le "quartet" du batteur Cotton Bailey qu'il prend comme nom de scène « Jack » Teagarden. De 1923 à 1927, il joue dans de nombreuses formations (les « Peck Kelly's Bad Boys » , les « Marine's Southern Serenaders », les « Billy Lustig's Scranton Sirens » et les orchestres de Willard Robinson et Doc Ross).
Ses frères, Charlie Teagarden et Clois Teagarden deviendront respectivement trompettiste et batteur. Sa soeur Norma Teagarden deviendra pianiste.
Il enregistre pour la première fois en 1927, pour le label Victor, comme tromboniste du groupe « Johnny Johnson and his Statler Pennsylvanians ». Après un bref passage, chez Tommy Gott, il intègre l'orchestre du batteur Ben Pollack dans lequel il reste jusqu'en 1933. Durant cette période, il enregistre copieusement, avec Pollack bien sur, mais aussi sous son propre nom, ou comme sideman aux côtés, entre autres, de
Louis Armstrong,
Benny Goodman, Bix Beiderbecke,
Hoagy Carmichael, Red Nichols et Eddie Condon.
En 1933, on le voit dans les groupes d'Eddie Sheasby , Wingy Manone et Mal Hallett . En décembre de la même, il rejoint l'orchestre de « jazz symphonique » de Paul Whiteman où il restera jusqu'en 1938.
En 1939, il forme son propre big-band. Cette expérience, si elle est musicalement une réussite, se solde par un total désastre financier. Teagarden doit prudemment se rabattre sur une carrière de musicien « free lance ».
En juillet 1947,
Louis Armstrong l'engage pour son « All Stars ». Teagarden reste dans ce groupe jusqu'en août 1951.
De 1951 à sa mort, malgré une santé défaillante vers la fin de sa vie (il souffre d'une pneumonie), il dirige son propre « All stars ». En 1957, il fait une tournée en Europe au côté du pianiste Earl Hines. Fin 58-début 59, il fait une tournée en Asie dans le cadre des échanges culturels du « State Department ».
Il meurt en janvier 1964 à la Nouvelle Orléans.