Вернувшись на родину, Елагин повесил жалованную грамоту на самом видном месте в своем кабинете. Сторонники Ивана Перфильевича ликовали. Они сравнивали это достижение с дарованием автокефалии Русской православной церкви. Но, увы, и после этого у него оставались противники, не желавшие централизации лож в России и не признававшие в Елагине «самодержца и диктатора», каковым, как они писали, он себя самовольно назначил. В конце концов Елагин был вынужден примириться с тем, что вольнолюбивые каменщики не терпят единоначалия и желают, чтобы каждая «ложа была сама по себе и каждый брат наособицу».
Иван Перфильевич оставался верен братству до конца своих дней, даже в лихие 1790-е, когда после Французской революции 1789 года на российских масонов посыпались облыжные обвинения и обрушились репрессии. Августейшая правительница, увы, сменила милость на гнев, а многие братья предпочли прервать свои отношения с орденом.
Но дворец Ивана Перфильевича, что на Елагином острове, оставался местом собрания самых преданных братьев. Там проходили заседания масонских лож, а в подвале была оборудована алхимическая лаборатория, где стремились добыть философский камень. Камень этот нужен был Елагину не для получения золота, а для обретения секретов мироздания. Эти секреты не давали ему покоя всю жизнь. Чтобы заполучить их, он даже привечал в своем дворце чужеземных магов и чародеев, в том числе и прославившегося на всю Европу графа Калиостро (итальянский авантюрист Джузеппе Бальзамо). Среди заезжих знаменитостей бывали и откровенные шарлатаны. Когда братья-масоны с недоумением вопрошали Ивана Перфильевича, неужели он не видит, что перед ним явный мошенник, тот отвечал: «Вижу, а все же, может, и у него крупица мудрости да сыщется». При этом Елагин вспоминал притчу из Каббалы, рассказанную ему когда-то его учителем Станиславом Эли (масонское имя — Седдаг, автор «Братских увещеваний к некоторым братьям Свободным Каменщикам», переведенных с немецкого Елагиным). Если человек видит в сточной канаве драгоценную жемчужину, стоит ли ему лезть за ней? Да, — учит Каббала, — ибо грязь и нечистоты легко смыть, а жемчужина знаний и мудрости останется с ним. Этими словами Иван Перфильевич руководствовался всю свою жизнь.
…Сегодня на Елагином острове расположен ЦПКиО им. Кирова. Почему Кирова — бог его знает… Парк хорош во всякую погоду, но летом он просто изумителен. Питерцы всегда любили это место, хотя далеко не все знали, кому обязаны всем этим великолепием. Нынешний парк — прибежище всех видов отдыхающих. Бодрые старушки бегают кроссы, йоги небольшими группами медитируют на газонах, роллеры разучивают танцевальные па, кришнаиты возят по аллеям какую-то колесницу, простая публика гуляет и ест пироги. Иван Перфильевич, несомненно, был бы доволен — ведь именно он обустраивал остров как публичное «место приличных развлечений».
Елагин бурно провел молодость и хорошо знал, каковы бывают развлечения «неприличные». Когда Иван Перфильевич купил остров Медвежий на самой окраине столицы, он давно простился с грехами молодости, остепенился, выражаться привык стилем возвышенным и витиеватым. Елагин захотел превратить Медвежий остров из медвежьего угла в русский Версаль. Но если Версаль предназначен был только для знати, Елагин остров должен был стать первым в России общедоступным парком. Масонская идея равенства вдохновляла Елагина на такое непонятное для окружающих предприятие. Для осуществления своей затеи Иван Перфильевич не жалел ни сил ни средств. Он завез на остров благородные деревья — дубы, липы, клены, искоренил чахлую болотную растительность, установил карусели и качели, построил беседки, выкопал пруды и устроил хитроумную дренажную систему. Он запретил употреблять в парке горячительные напитки, а для людей простого сословия бесплатно разливал квас и сбитень. Рассказывают, что как-то раз, гуляя по своему парку, Иван Перфильевич обратил внимание, что простонародные девушки любят кататься на качелях, но стесняются, «…ибо боятся попасть в конфузное положение». Тогда он распорядился выдавать девушкам шелковые шнурочки, дабы они подвязывали подолы юбок и сарафанов. В этих шнурочках право больше истинного масонства, нежели во многих штудиях и манифестах.