ב-1924 עובר ארמסטרונג לניו יורק ומצטרף ללהקה של פלטשר הנדרסון. ארמסטרונג מתחיל להקליט עם אמנים רבים. תחילה עם פלטשר, לאחר מכן עם זמרי בלוז כמו סיפי וולאס, קלרה סמית', בסי סמית' וקלרנס וויליאמס. ב-1925 חוזר ארמסטרונג לשיקגו ומקים את הלהקה הראשונה שלו- "Louis Armstrong and his hot five". לאחר הופעות מרובות הוא מקליט ב-1928 את "West end blues", אחד מאלבומי הג'אז הקלאסיים החשובים ביותר. ב-1931 נפרד ארמסטרונג מליל הרדין ובמקביל מופיע בסרט הראשון שלו, "Ex-Flame". מקליט את השיר "When it's sleepytime down south".