Пламя, разжигаемое «Искрой», получило свою пищу и на взрывоопасном Кавказе. Для срыва этой акции Тифлисское губернское жандармское управление (ГЖУ) наметило аресты революционеров, состоявших в РСДРП. В рабочем «Обзоре» принадлежности «к наблюдаемому кружку» указывалось:
«Иосиф Джугашвили, наблюдатель в Физической обсерватории, где и квартирует. По агентурным сведениям, Джугашвили — социал-демократ и ведет сношения с рабочими. Наблюдение показало, что он держит себя весьма осторожно, на ходу постоянно оглядывается; из числа знакомых выяснены: Василий Цабадзе и Севириан Джугели; кроме того, нужно думать, что и Сильвестр Джибладзе заходил в обсерваторию именно к Джугашвили».
В ночь с 21 на 22 марта были арестованы одиннадцать членов организации. В эту же темную южную ночь жандармы нагрянули и в обсерваторию. Джугашвили избежал встречи с непрошеными гостями лишь случайно. Он обнаружил присутствие жандармов при возвращении в обсерваторию и, уже после их ухода, узнал, что в его отсутствие был проведен обыск. Альтернативы не было. Он решил перейти на нелегальное положение, однако скрыться ему не удалось.
Его схватили на улице, когда он отправился на поиск нового пристанища. Метеоролог-наблюдатель Домбровский видел из окна канцелярии, как два уездных стражника провели его от Муштаида в сторону Воронцовского моста.
В рапорте начальнику губернского жандармского управления полковнику Дебилю ротмистр Цысса докладывал: «В ночь с 21 марта на сие число были проведены обыски у Иосифа Джугашвили, Николая Домостроева, Георгия Авалиани, Петра Каланадзе, Филипа Цхомосидзе... Джугашвили дома не было, почему был подвергнут обыску первоначально проживающий с ним наблюдатель обсерватории Василий Бердзенов, а за прибытием Джугашвили установлено наблюдение, коим он был обнаружен по пути в Муштаид и подвергнут личному обыску».
Хотя обыск результатов не дал, у жандармов были основания подозревать Джугашвили «в политической неблагонадежности» и «пропаганде среди рабочих». В постановлении от 23 марта 1901 г. отдельного корпуса жандармов ротмистр Рунич писал, что, «по агентурным сведениям, изложенным в «Обзоре наблюдения за социал-демократическим кружком», служащий наблюдателем в физической обсерватории Иосиф Джугашвили ведет сношения с рабочими, принадлежит, весьма возможно, к социал-демократам, а равно, что беглым просмотром отобранной у него по обыску переписки обнаружена (книга) «Рабочее движение на Западе» С.Н. Прокоповича без цензурной даты, в каковой книге имеются выписки и ссылки на разные запрещенные издания и приведена программа проповеди социал-демократических идей».
Для бывшего семинариста, уже познавшего одиночество церковного карцера, официальный арест уже не являлся неординарным событием. На допросах он держался уверенно, полностью отрицая свою причастность к противоправительственной деятельности. Вскоре он был освобожден, но с этого момента его фамилия уже «навечно» попала в картотеку Департамента полиции.
Оказавшись вновь на свободе, Иосиф поселился в конспиративной квартире в доме 18 на Нарышкинской улице, в маленькой комнатке, где стояли тахта и этажерка для книг. Вечерами сюда к нему часто приходили товарищи, а днем он уходил на заводы для встречи с рабочими. Человек дела, он стремился к энергичным действиям. Он продолжал вести занятия в социалистических кружках, и они превращались в центры подготовки к первомайской демонстрации.
Уже на первых шагах революционной работы у Джугашвили проявилась тяга к публицистической практике. Впоследствии эта склонность будет реализована им как редакторская деятельность в органах партийной печати, в том числе в работе основной большевистской газеты «Правда». Но на первом этапе он употребил свои способности для подготовки прокламаций. Отпечатанные в нелегальной типографии листовки появились в городе накануне демонстрации. Они содержали требования политических свобод: свободы союзов и собраний, свободы слова и печати и обобщающие всё лозунги: «Долой рабство! Долой тиранию!»
Одна из типографий располагалась непосредственно в помещении, где он жил. Очевидец вспоминал: «Тесная комнатка, тускло освещенная керосиновой лампой. За маленьким круглым столиком сидит Сталин и пишет. Сбоку от него типографский станок, у которого возятся наборщики. Шрифт разложен в спичечных и папиросных коробках и на бумажках. Сталин часто передает наборщикам написанное».
