Самым трудным оказалось найти удобное место для строительства в столице, поскольку земля стоила очень дорого. Но неожиданно нашелся благотворитель — купец Симеон Раменский, который пожертвовал свой участок земли в 500 квадратных саженей на доброе дело. Участок оказался очень удобным. Он находился на Аптекарском острове, на берегу реки Карповки, и хоть и был удален от шумного центра, но находился вблизи Каменноостровского проспекта, по которому ходил трамвай, связывающий с центром города.
Получив разрешение от епархиального начальства, отец Иоанн решил поначалу вести дело в скромных размерах. Но сразу же явилось несколько крупных благотворителей, в том числе и талантливый архитектор Н. Н. Никонов, который очень быстро составил проект всех архитектурных работ. С той же быстротой начались сами работы. В короткий двухлетний срок появилось грандиозное сооружение, которое по обширности и красоте не уступает лучшим архитектурным памятникам столицы.
Осенью 1902 года отец Иоанн обратился к петербургскому митрополиту Антонию: «...Я нашел, что это сооружение в столице слишком художественно и обширно, чтобы ему быть подворьем... и что ему лучше быть петербургским самостоятельным женским монастырем в ведении одного митрополита Санкт-Петербургского, с тем неизменным всегда условием, чтобы третья часть доходов обители (только не от доходов каменного пятиэтажного дома при обители) поступала ежегодно в разные сроки года в Сурскую женскую обитель и чтобы на первых порах не облагать эту новую обитель разными обязательствами и налогами, требующими больших денежных расходов». Просьба основателя монастыря была уважена, и Сурское подворье превратилось в Иоанновский женский монастырь, названный так в честь небесного покровителя отца Иоанна — св. Иоанна Рыльского.
17 декабря 1902 года состоялось торжественное освящение главного монастырского храма в честь св. Двенадцати Апостолов с приделами Казанской Божией Матери и св. Андрея Критского. К тому времени в монастыре уже жили монахини, большинство перешло из Сурской общины; тридцать бедных девиц подготовлено к монастырской жизни в Аеушинском монастыре игуменьей Таисией. В подвальном помещении храма находилась еще одна церковь, в честь пророка Илии и преподобной Феодоры, чьи имена носили родители отца Иоанна.
В январе 1909 года определением Святейшего Синода Иоанновский монастырь получил статус первоклассного. Еще при жизни батюшки его молитвами и трудами монастырь стал вполне благоустроенным и находился на полном самообеспечении. В обители проживало более 350 насельниц. В монастыре работали золотошвейная и белошвейная мастерские, типография, большая иконописная мастерская, лазарет на десять коек, просфорня с двумя печами. Перед монастырем с восточной стороны был разбит небольшой сад, а с западной находился образцовый огород, с которого сестры ежегодно снимали богатый урожай, несмотря на его небольшие размеры.
Со дня основания монастыря пошел счет последним годам жизни великого праведника России, все сильней обличал он своих соотечественников в отходе от веры, все грозней были его пророчества о судьбах России. В эти беспокойные годы отец Иоанн очень любил бывать в своей тихой обители на берегу реки Карповки, здесь он отдыхал душой...
Когда наступила предреченная батюшкой Иоанном эпоха «нечестивых правителей», монастырские здания были отобраны властями, и в 1923 году монахинь выселили. В эти трудные годы монашескую общину по-прежнему возглавляла духовная дочь отца Иоанна игуменья Ангелина, руководившая сестрами до своей смерти в 1927 году. В четырехэтажном здании монастыря размещалось более двадцати организаций. Соседствовали театр и вычислительный центр, ДОСААФ и бомбоубежище, общежитие и райтрест столовых. Вся структура помещения была нарушена. В этом хаосе уже невозможно было почувствовать гармонии, в которой изначально возводился монастырь.
Почитаемая всей Россией усыпальница чудотворца была осквернена, мраморное надгробие уничтожено. Само имя Иоанна Кронштадтского находилось под запретом, на протяжении десятилетий любые сведения о нем в официальной печати сопровождались официальным же ярлыком «реакционер и черносотенец». Но и во времена самых лютых гонений на Церковь верующие помнили отца Иоанна: переписывались и собирались рассказы о его чудесах; к стенам бывшей обители приходили богомольцы и обращались с молитвами к святому праведному Иоанну Кронштадтскому. Над окном усыпальницы, расположенном в метре от тротуара, был начертан православный крест; его много раз смывали, и тогда кто-то сумел высечь крест в гранитном цоколе над окном. Под ним возжигали свечи и клали цветы. Благодарная любовь народная никогда не иссякала и не была посрамлена.
