Итак, одаренность Армстронга была очевидна с самого начала. Питеру Дэвису очень понравился Луи, как и позднее он нравился многим, с кем его сводила судьба. При первой возможности Дэвис сделал его горнистом колонии, затем научил играть на корнете, и в конце концов Армстронг стал ведущим музыкантом оркестра. Сам Армстронг говорил, что Дэвис учил его понимать важность правильного извлечения звука, находить верный тон и эти уроки были очень полезны. Армстронг писал позднее о своем пребывании в «Уэйфс Хоум»: «Эта колония была для меня скорее школой-пансионатом, нежели тюрьмой для малолетних».

Через три года отец забрал Луи из колонии, но он сделал это не из добрых побуждений — просто ему нужна была нянька для детей от второго брака, так как он и его жена работали. Армстронгу это не понравилось, и при первом удобном случае он с радостью сбежал к Мэйенн. Ему было уже почти шестнадцать, и он считал себя мужчиной. За 75 центов в день он нанялся развозить и продавать уголь. Одновременно, когда была возможность, он играл на корнете в барах Сторивилля —1 доллар 25 центон за вечер плюс чаевые. Так он сделался главным кормильцем семьи и оставался им всю жизнь.

Его мастерство музыканта стремительно росло. Он организовал с друзьями маленький оркестр, который играл в дешевых барах и на вечеринках. В это же время Армстронг начал появляться в кабаре, где выступал оркестр под управлением Кида Ори, в составе которого играл корнетист Джо Оливер. Подобно другим музыкантам старшего поколения, Оливер проникся расположением к Армстронгу и обучил его некоторым профессиональным приемам. О влиянии на Армстронга различных корнетистов Нового Орлеана написано немало, причем обычно приводятся такие имена, как Бадди Болден, Банк Джонсон и Оливер. Хотя Армстронг и подтверждает, что слышал игру Болдена, но он был еще слишком молод, когда Болден перестал играть, поэтому едва ли мог испытать сколько-нибудь значительное влияние последнего. Что же касается Джонсона, то Армстронг отрицал, что тот оказал на него влияние. Истина такова, что учителем Армстронга был сам Армстронг. Оливер мог показать молодому человеку некоторые приемы аппликатуры, амбушюра, контроля за дыханием, мог ознакомить его с репертуаром, но общая концепция игры была у Армстронга самостоятельной. Стиль Армстронга был диаметрально противоположен стилю Оливера. Сдержанная, как бы сконденсированная игра Оливера резко контрастирует с ярким лиризмом Армстронга. Реальным результатом их общения было то, что время от времени Оливер посылал Армстронга играть вместо себя в оркестре Ори. Когда же Оливер в 1918 году уехал на север, в Чикаго, Ори взял Армстронга на его место. Джаз-оркестр Ори считался одним из лучших в Новом Орлеане, и в свои восемнадцать лет Армстронг стал в нем ведущим корнетистом.

В течение последующих пяти лет он перебивался случайными заработками в различных городских оркестрах, совершенствовал свое мастерство. Играл он также и на старых колесных речных пароходах, которые стали использовать в качестве плавучих театров (так называемых «шоубот»). Они совершали дневные или вечерние многочасовые экскурсии, к ночи возвращаясь в порт, либо двигались вверх по Миссисипи, останавливаясь по вечерам в каком-нибудь населенном пункте, чтобы дать представление на берегу. Здесь царила атмосфера карнавала, и музыка была неотъемлемым атрибутом общего празднества. Фейт Мэрейбл, пианист из Сент-Луиса, создавал оркестры и предоставлял их в распоряжение владельцев пароходов братьев Стрекфус. Вымуштрованные музыканты играли помногу часов, как заводные. Темп игры иногда задавался с помощью метрономов. Эти оркестры исполняли также джазовую музыку, для чего руководители всегда имели под рукой нескольких «лихих» музыкантов. В 1918 году Мэрейбл пригласил Армстронга в одну из таких поездок, и затем в течение двух-трех лет Луи время от времени работал у него. Как-то в поездке меллофонист Дейвид Джонс научил Армстронга читать ноты. Сам факт, что Мэрейбл нанял музыканта, не умевшего читать с листа, в то время как вокруг не было недостатка в образованных музыкантах, дает известное представление о репутации Армстронга в Новом Орлеане.

Армстронг продолжал совершенствоваться, попрежнему выступая в различных заведениях города. Вскоре он женился на некой Дейзи, которая была на несколько лет старше его. Брак этот удачным не был. В 1922 году Оливер пригласил Армстронга в Чикаго. Армстронг приехал и . буквально «выдул» всех музыкантов из города. Он стал работать с Оливером в «Линкольн Гарденс», спустя некоторое время ему удалось записать первые грампластинки. Друзья долго уговаривали Армстронга создать собственный оркестр, но он отказывался, не желая обидеть Оливера, которому был искренне благодарен. Ни тогда, ни позже Армстронгу не было свойственно доставлять людям неприятности.

В начале 1924 года Армстронг женился на Лилиан Хардин, пианистке из оркестра Оливера. У нее было классическое музыкальное образование, но в джазе она не преуспела, хотя и разбиралась в нем довольно хорошо. Лилиан решила сделать из своего мужа звезду джаза. Она помогла ему освоить чтение нот с листа, убедила оставить оркестр Оливера и перейти работать в кафе «Дримленд». Примерно в то же время Флетчер Хендерсон предложил Армстронгу работу в своем оркестре. В 1924 году оркестр Хендерсона не был джазовым в полном смысле этого слова, скорее он был коммерческим: играл во время танцев и шоу, аккомпанировал певцам во время записи. Хендерсон, величайший в истории джаза первооткрыватель талантов, хотел иметь в своем оркестре солиста, который мог бы сыграть ярко и эффектно — что очень нравилось слушателям того времени. Армстронг принял приглашение и работал с оркестром в течение года. Он записал с ним ряд сольных партий, среди которых наибольшую известность приобрела запись «Sugar Foot Stomp», вариант «Dippermouth Blues» Оливера. Будучи с Хендерсоном в Нью-Йорке, Армстронг сделал ряд грамзаписей на свой страх и риск: аккомпанировал певцам блюзов, записывался с группами Кларенса Уильямса, в том числе с группой «Red Onion Jazz Babies», где играл Сидней Беше.

Проработав год с оркестром Хендерсона, Армстронг осенью 1925 года вернулся в кафе «Дримленд» и начал там работать с оркестром, который организовала Лилиан, за семьдесят пять долларов в неделю — баснословный по тем временам гонорар для черного джазмена. Вскоре он начал параллельно играть и в театральном оркестре Эрскина Тэйта, где выступал как солист.

12 ноября 1925 года в студии «Okeh» Армстронг сделал первую запись из серии грампластинок, известной под названием «Hot Five» и «Hot Seven». Эти записи, ставшие важными вехами в истории джаза, вызвали неописуемый восторг музыкантов и любителей в Соединенных Штатах и в Европе и изменили само направление развития этого вида искусства. В течение последующих лет Армстронг играл как солист в группах Тэйта, Кэрролла Диккерсона, а также в группах, которые носили его имя. В 1925—1928 годах пластинки «Hot Five» и «Hot Seven» были записаны со случайными составами. В те же годы Армстронг решил расстаться с корнетом и перейти на трубу. Разница между этими инструментами незначительна и в основном сводится к соотношению числа конических и прямых тюбингов. По сравнению с трубой корнет дает более мягкий, но недостаточно яркий тон. Пионеры джаза почти неизменно пользовались корнетом, поскольку именно он встречался тогда в духовых оркестрах, из которых выросли джаз-оркестры. Труба была инструментом симфонического оркестра, поэтому некоторые представители раннего джаза избегали играть на ней. Армстронг начал играть на трубе в театральных оркестрах: ее яркое звучание разносилось далеко, к тому же у инструмента был эффектный внешний вид. Первое время Армстронг играл поочередно как на корнете, так и на трубе, но затем окончательно отказался от корнета. С тех пор этот инструмент стал постепенно исчезать из джаза; его продолжали использовать лишь музыканты, хранившие верность традициям музыки Нового Орлеана.