После окончания университета в 1885 г. он вознамерился было защищать магистерскую степень по истории, но был призван на действительную военную службу в 1-й лейб-гвардии Екатеринославский полк рядовым. Уже в октябре того же года, выдержав экзамен, Гучков был произведен в младшие унтер-офицеры и уволен в запас. Вернувшись домой, юноша остался еще на один год вольнослушателем на том же факультете, занимаясь у знаменитых профессоров В. И. Герье, П. Г. Виноградова, В. О. Ключевского. Затем Александр слушал лекции по истории и философии в Берлинском и Гейдельбергском университетах.
Еще в Московском университете Гучков занимался в кружке молодых историков, юристов и экономистов. Здесь выступали со своими первыми научными докладами известные впоследствии ученые: П. Н. Милюков, А. А. Кизеветтер, С. Ф. Фортунатов, А. А. Мануйлов, В.Ф. Дерюжинский. Однако деятельной натуре Гучкова было мало одних только занятий историей, его научная карьера не складывалась, и он со всей страстью отдался общественной деятельности. Александр Иванович с 1888 г. неоднократно избирался почетным мировым судьей, был членом городской управы Москвы, гласным Городской думы. При его деятельном участии была завершена постройка водопровода в Мытищах и проведена первая очередь канализации. В 1894 г. за отличие в службе он получил свою первую награду — орден Святой Анны III степени. Однако все это не удовлетворяло молодого человека, жаждавшего острых ощущений. В 1895 г. Гучков отправился в опасное путешествие по охваченным антиармянскими выступлениями землям Оттоманской империи и совершил переход через Тибет. Затем поступил на службу младшим офицером казачьей сотни на охране КВЖД в Маньчжурии, верхом на лошади путешествовал по Китаю, Монголии, Средней Азии, но в 1899 г. был уволен со службы за дуэль. В этом же году он отправился волонтером в Южную Африку и сражался на стороне буров против англичан, получил ранение и даже попал в плен, но был отпущен «под честное слово».
В 1903 г., накануне собственной свадьбы, Гучков умчался сражаться в Македонию, где началось антитурецкое восстание. Невеста Александра Ивановича, Мария Ильинична Зилоти, дождалась своего жениха, и свадьба все-таки состоялась. В этом браке родилось двое детей: сын Лев, который умер в 1916 г., и дочь Вера.
Женитьба не изменила характер Александра Ивановича. Началась русско-японская война, и он выехал на театр военных действий в качестве представителя Московской городской думы и Комитета великой княгини Елизаветы Федоровны, а также как помощник главного уполномоченного общества Красного Креста при Маньчжурской армии. Весной 1905 г. Гучков попал в плен к японцам, так как не посчитал возможным уйти вместе с отступающими от Мукдена русскими войсками и оставить находящихся в госпитале раненых. Японцы отпустили известного капиталиста, и в Россию он вернулся героем.
Оказавшись в России во время революционных событий 1905 г., Александр Иванович стал одним из крупнейших деятелей либерального движения. Он принимал участие в земско-городских съездах, стал одним из лидеров правого, «шиловского», меньшинства, участвовал в создании и возглавил «Союз 17 Октября». С 1906 г. Гучков состоял председателем ЦК этой партии помещиков и торгово-промышленной буржуазии, участвовал в работе всех ее съездов и конференций, внося немалый вклад в реформирование российской экономики. Став одним из идеологов «октябризма», он полагал, что монархия в единстве с народом через Думу и конституцию будет способствовать общественному прогрессу. Выступая за равенство перед законом, гарантию прав личности и введение гражданских и политических свобод, октябристы не ставили вопрос о ликвидации помещичьего землевладения и поддерживали реформы П. А. Столыпина.
В 1907 г. Гучков был избран депутатом 3-й Государственной Думы, где возглавил фракцию «октябристов» и комиссию Думы по обороне. В следующем году он купил для своей семьи особняк на Фурштатской улице и окончательно поселился в Петербурге. С марта 1910 по март 1911 гг. Александр Иванович уже являлся председателем Государственной Думы. Будучи прямым и бескомпромиссным человеком, он нередко вступал в конфликты с думскими депутатами, доходившие иногда до столкновений. «Московский купчик» воспринимался там как один из главных противников трона и династии. Так, он вызывал на дуэль П. Н. Милюкова, дрался с графом Уваровым и жандармским подполковником Мясоедовым. В нескольких речах, посвященных деятельности Военного министерства, МВД и Синода, он крайне резко критиковал великих князей и Распутина.
