Еще правительством царевны Софьи был заключен договор с Польшей и ее союзниками (договор 1686 г.), обязывавший Россию принять участие в священной войне христианских государств против турок и крымских татар (мусульман). Петр помнил неудачу двух походов В. В. Голицына (1687, 1689) против Крымского ханства и не хотел повторять эту затею. Он принял другое решение — идти на турецкую крепость Азов в устье Дона. Весною 1695 г., для того, чтобы замаскировать свое движение к Азову, Петр послал к низовьям Днепра большое войско, угрожавшее оттуда походом на Крым; а сам с регулярными полками по Дону и Волге направился к Азову. Осада Азова затянулась до осени 1695 года и не имела успеха, потому что крепость получала с моря водою припасы и подкрепления и могла держаться. Петр сам участвовал в военных действиях. По его собственным словам, «зачал служить с первого Азовского похода бомбардиром». Во время штурмов отличились Преображенский и Семеновский полки, но оказавшись без поддержки других колонн, они вынуждены были отступить. У русских войск отсутствовали согласованные действия. Траншейные работы обнаружили еще один пробел в выучке русских войск — их слабую инженерную подготовку и отсутствие умелых специалистов среди нанятых иностранцев. Мины, взорванные русскими, не причинили никакого вреда неприятелю, но унесли жизни десятков своих солдат.
20 октября 1695 г. осаду Азова пришлось снять, началось трудное отступление русских войск. Сначала приходилось отбиваться от татарской конницы, а затем наступили непогода и болезни, опустошавшие ряды отступавших войск.
После неудачи первого похода на Азов по Москве пошли злорадные толки среди многочисленных недругов Петра. «Это, видно, не потеха под Азовом-то стоять, это тебе… не постройка корабликов да пированье с немцами».
Было от чего упасть духом молодому царю, но тут-то и сказалась мощь его натуры, сила воли и характера. Казалось, что Петр от беды только возмужал и развил необыкновенно энергичную деятельность для немедленной подготовки второго похода под упрямый Азов, под это «осиное гнездо, крепко кусающихся шершней», по словам Петра.
Сразу же по возвращении из-под Азова царь хлопочет, чтобы было прислано ему на службу побольше иностранцев, посылает в Австрию и Пруссию за военными инженерами и минерами, решает строить суда на Дону, чтобы флотом отрезать Азов от сообщения с морем. В Воронеже вырастает верфь, и 26000 рабочих неустанно стучат топорами, создавая военную флотилию для осады Азова, среди зимы, в снег, бурю, гололедицу.
И самого «бомбардира Питера» видно всюду — то он с топором в руке дает пример работы, то ведет расчет присланного материала, то мирит подравшихся, то собственноручно расправляется кулаком и дубиной с досадившим ему лентяем. Дело горело в его руках и, несмотря на тысячи препятствий, шло успешно.
В апреле 1696 года Петр снова двинулся к Азову. Флот русских отрезал осажденных от помощи с моря. «Бомбардир Питер» (так называли Петра) собственноручно усердно обстреливает крепостные стены Азова.
И Азов был взят русскими. Это было первое торжество над страшными турками. О Петре и его энергии заговорили соседи.
«Какой отважный человек! — рассуждали о нем поляки: — и что от него вперед будет?»
В 1697 году скончался «первый царь» Иван Алексеевич. Началось единодержавие царя Петра. Если раньше указы издавались от имени двух царей, и Иван считался соправителем, хотя в управлении не участвовал, то теперь Петр не только по существу, но и формально становился самодержцем.