Вместе со святым Иоанном Златоустом златоустый российский святитель донес до близких ему людей свою сердечную мысль: "Слава Богу за все".
В Ярославль Владыка был переведен для переговоров с сотрудником ГПУ Е. Тучковым и епископом Гервасием (Малининым), которые попытались склонить Владыку на сторону нового "григорьевского" раскола во главе с епископом Екатеринбургским Григорием. Но на посулы стать митрополитом, на ложь и на лесть Владыка ответил категорическим отказом. Тогда сотрудник ГПУ сказал: "Приятносумным человеком поговорить. А сколько вы имеете срока на Соловках? Три года?! Для Илариона три года! Так мало?!"
После этого Владыка получил новый срок. Владыка был сначала на Поповом острове, зачем его перевели в Кремль, а потом "на Секирку" - в штрафной изолятор, где смерть была обыденным явлением.
На Пасху 1926 года Владыка Иларион добился у начальника СЛОНГа Эйхманса разрешения провести богослужение.
"Пасхальная заутреня проходила в ветхом кладбищенском храме святого Онуфрия. Крохотная церковь не могла вместить даже лагерное духовенство... Кладбише было полно народу. Голос Владыки Илариона доносился из глубины храма, среди тишины северной ночи.
И вот на улицу вышел крестный ход... "Христос воскресе!"- "Воистину воскресе!"-прозвучало под торжественным куполом увенчанною сполохом неба. С победным, ликующим пением о попранной, побежденной смерти шли те,. кому она грозила ежечасно, ежеминутно... Ликующий хор "сущих во гpoбех" славил и утверждал свое грядущее, неизбежное, непреодолимое силами зла воскресение." - так писал об этой неповторимой заутрене Б. Ширяев. В условиях неволи Владыка Иларион по-прежнему ощущал себя православным иерархом, oтветственным за положение Церкви, за свою паству. В июле 1926 года архиепископ Иларион выступил как один из инициаторов "Соловецкого послания" - обращения находившихся в Соловецком лагере православных епископов к правительству. В этом обращении, выдержанном в духе лояльности, епископы предлагали свое решение многих церковно-государственных отношений, не избегая самых острых вопросов.
Когда возникло новое разделение, вызванное появлением так называемой "Декларации заместителя патриаршего Местоблюстителя митрополита Сергия (Страгородского)" от 29июля 1927 года. Владыка Иларион. понимавший вынужденность некоторых его шагов, предостерегал всех от раскола.
Митрополит Мануил (Лемешевский), соузник владыки, пишет: "В ноябре 1927 года некоторые из соловецких епископов начали было колебаться в связи с иосифлянским расколом. Архиепископ Иларион сумел coбpaть до пятнадцати епископов в келлии архимандрита Феофана, где все единодушно постановили сохранить верность Православной Церкви, возглавляемой митрополитом Сергием. "Никакого раскола! - возгласил архиепископ Иларион,- что бы нам ни стали говорить, будем смотреть на это, как на провокацию!"
По поводу "иосифлянского" раскола архиепископ Иларион писал епископу Виктору (Островидову) и другим лицам. Он резко порицал позицию раскольников и напоминал им безгласие епископата в синодальные времена, когда перевод на другие кафедры был обычным явлением.
По мнению Владыки, отделение от митрополита Сергия -"преступление, по условиям текущего момента весьма тяжкое."
В конце 1929 года власти решили выслать святителя в Казахстан на вечное поселение. Владыку повезли этапным порядком – от одной пересылочной тюрьмы до другой. По дороге его обокрали и в Петербург ею привезли в праздник Введения во храм Пресвятой Богородицы уже больным.
Шестою декабря Владыку перевели из тюрьмы в больницу им. Гааза. С высокой температурой он шел по городу, теряя последние силы. У него обнаружили сыпной тиф.
Митрополит Серафим (Чичагов) пытался ему помочь, но это было уже невозможно. Владыка Иларион был без сознания. Незадолго до кончины ему стало легче. Из больницы он писал родственникам: "Я тяжело болен сыпным тифом..., в субботу, 15 декабря, решается моя участь (кризис болезни), вряд ли перенесу."
Когда ему в больнице заявили, что его надо обрить. Владыка сказал: "Делайте со мной теперь, что хотите".