Louis Armstrong nació en el seno de una familia muy pobre y en uno de los barrios marginales de Nueva Orleans. La miseria se agudizó cuando su padre, William Armstrong, los abandonó. Louis era entonces un niño y pasaría su juventud en un difícil vecindario de las afueras de la ciudad. Su madre, Mary "Mayann" Albert (1886–1942), dejaba a Louis y a su hermana menor Beatrice Armstrong Collins (1903–1987) bajo el cuidado de su abuela, Josephine Armstrong y a veces, de su tío Isaac.

No existían antecedentes musicales en su familia, por lo que su interés por este arte surgió a partir de la escucha de las célebres bandas de Nueva Orleans, que desfilaban habitualmente por las avenidas de la ciudad.

Aprendió, en primer lugar, a tocar la corneta en la banda de la Nueva Orleans Home for Colored Waifs, un reformatorio para niños de color abandonados a donde había sido enviado en varias ocasiones por delitos menores, como por ejemplo el haber disparado al aire durante una Nochevieja. Allí, aconsejado por el director del reformatorio, Joseph Jones, y el profesor Peter Davis, optó por la trompeta entre otros instrumentos.

Su fama llegó rápidamente a oídos del mejor director de orquesta negro del momento, Fletcher Henderson, quien le ofreció un contrato para que se uniese a su banda, la Fletcher Henderson Orchestra, la principal banda afroamericana de la época. Durante este periodo, hizo también muchas grabaciones de forma independiente con los arreglos de un viejo amigo de Nueva Orleans, el pianista Clarence Williams, como por ejemplo unos dúos con su "rival" musical Sidney Bechet y una serie de acompañamientos con los Blues Singers.

En 1964, Armstrong grabó el que sería su tema más vendido: "Hello, Dolly". La canción obtuvo el puesto número uno en las listas de Estados Unidos, superando al grupo inglés The Beatles. Armstrong también obtuvo por el disco un premio Grammy al Mejor Cantante masculino y fue nominado a Mejor Disco del año. En este álbum se encuentra, también, otro tema clásico de Armstrong: "Jeepers Creepers"