Вернувшись в Ленинград, где у него жила мама, он вскоре предпринял новую попытку вернуться на сцену, и в 1946 году был принят в труппу Ленинградского театра музыкальной комедии. Сначала играл в массовках, затем получил ряд ролей второго плана. Учитывая внешность актера (а был он человеком внушительной комплекции, с круглым лицом и носом-«картошкой»), режиссеры обычно доверяли ему роли откровенно комические, даже без намека на какой-нибудь драматизм. Однако именно в этих ролях Смирнова и полюбила театральная публика. Любой выход этого актера на сцену вызывал у зрителей неописуемый восторг и веселье. Особенно любили этого актера дети.
В начале 50-х годов на счету Смирнова было несколько заметных ролей в репертуаре театра комедии, в том числе в таких спектаклях, как «Вольный ветер», «Девичий переполох». В спектакле по пьесе-сказке Н. Адуева «Табачный капитан» А. Смирнов сыграл свою первую полудраматическую роль — Петра I.
Между тем слава об актере-комике довольно быстро распространилась тогда не только в театральной среде, но и среди кинематографистов. В 1958 году режиссер Юрий Озеров пригласил Смирнова на одну из ролей в свою картину «Кочубей». Актер сыграл в нем буржуйчика — единственного героя в этой серьезной картине, призванного специально для того, чтобы рассмешить публику. И Смирнову это удалось. Так произошло открытие этого актера для кинематографа.
В 1961 году на экраны страны вышли сразу два фильма с участием Смирнова, которые имели хороший прием у публики. Речь идет о фильмах «Полосатый рейс» (режиссер В. Фетин) и Вечера на хуторе близ Диканьки» (А. Роу).
Однако настоящее открытие Смирнова для всесоюзного кинозрителя произошло через два года благодаря мэтру отечественной комедии Леониду Гайдаю. В новелле «Вождь краснокожих» из фильма «Деловые люди» он доверил Смирнову роль Ьилла — добродушного увальня, решившего заработать себе на жизнь с помощью киднеппинга.
Фильм имел прекрасный прием у публики, причем львиная юля успеха выпала именно на новеллу «Вождь краснокожих», в которой помимо нашего героя участвовало еще двое актеров: Георгий Вицин и Сережа Тихонов. После этого успеха актер А. Смирнов начал свое триумфальное шествие по съемочным площадкам страны, получая приглашения сниматься от самых разных режиссеров. Так, он снялся у Леонида Быкова в «Зайчике», у Элема Климова в «Добро пожаловать, или Посторонним вход воспрещен» (оба фильма вышли в 1964 году), у Леонида Гайдая в «Операции «Ы», или других приключениях Шурика» (1965), у Ролана Быкова в «Айболите-66» (1966), у Андрея Тутышкина в «Свадьбе в Малиновке» (1967), у Виктора Садовского в «Удар, еще удар», у Евгения Карелова в «Семь стариков и одна девушка» (оба — 1968).
Все перечисленные фильмы, несмотря на их разный художественный уровень, оказались настолько популярными у зрителей, что все актеры, занятые в них, мгновенно превратились в национальных кумиров. И в большей степени это относилось к V Смирнову, который, сыграв в этих картинах не только главные роли, но и роли второго плана, сумел стать одним из любимых комиков советского кино. Когда Смирнов шел по улицам побого советского города, не было человека, который не узнал бы его — начиная от детей и заканчивая пенсионерами. Короче, слава этого актера тогда стояла вровень со славой другого комика кино — Савелия Крамарова.
Между тем в повседневной жизни Смирнов был несколько иным человеком, чем его экранные герои. Он был убежденный холостяк, и единственной женщиной, которая коротала с ним дни в ленинградской коммуналке, была его мама, которую он безумно любил. Жили они скромно, совсем не так, как принято жить семье актера, имеющего всесоюзную славу. Хотя иногда артистическую тусовку сотрясали слухи о шумных гулянках Смирнова, которые он устраивал или на съемочной площадке, или в стенах родного театра. Однако кто из известных артистов не отметился на этом поприще? К тому же поводов для огорчений у Смирнова было предостаточно. Например, он всегда мечтал играть драматические роли, и слава комика его откровенно тяготила. А режиссеры и слышать не хотели о том, чтобы доверить ему серьезную роль. Хотя были в этом ряду и исключения. Причем в основном это касалось режиссеров, которые работали на студиях союзных республик.