В феврале 1901 года Калинин вышел из Метехской тюрьмы, в марте выехал из Тифлиса, а в апреле приехал в Ревель. По дороге в Прибалтику ему удалось заехать в Петербург и встретиться с товарищами по подполью, получить от них явки к ревельским социал-демократам. В Петербурге он воочию убедился, что революционное детище путиловских социал-демократов — нарвская центральная группа продолжает жить и бороться, что она по-прежнему верна ленинской линии на развитие классовой борьбы пролетариата. Свою верность этой линии нарвская группа подтвердила тем, что с выходом в свет ленинской «Искры» без колебаний заняла позицию первой общероссийской марксистской газеты.
Ленинская «Искра» взяла курс на идейное и организационное сплочение местных социал-демократических организаций, на разгром оппортунизма и победу революционного марксистского направления в РСДРП, осуществление ленинского плана строительства в России боевой марксистской партии — партии нового типа. Через Петербургский комитет РСДРП с редакцией «Искры» вскоре установил связь и М. И. Калинин.
По прибытии в Ревель Калинин должен был зарегистрироваться в полиции. Началась новая полоса гласного полицейского надзора. Но у Калинина имелся уже немалый опыт нелегальной революционной работы. Он искусно пользовался различными способами конспирации.
В Ревеле Калинину не сразу удается устроиться на работу. Несколько дней он живет в доме одного эстонского рабочего, адрес которого получил в Тифлисе. Через некоторое время находит политического ссыльного Карла Сякка, питерского рабочего, эстонца по национальности, и с его помощью поступает токарем на машиностроительный завод «Вольта». Несмотря на сложные условия работы и незнание эстонского языка, Калинин исподволь начинает группировать вокруг себя рабочих. Указывая на моменты, затруднявшие развертывание революционной работы, он писал: «Работа на заводе мне показалась труднее в Ревеле, чем в Петербурге и в других городах. Она производилась десять часов, с часовым перерывом на обед, буквально не отрываясь. Общения между рабочими во время работы не было; на обед же мастерские закрывались, и потому знакомиться с рабочими было довольно затруднительно… На заводе из русских я был один».[28] С помощью эстонцев, знавших русский язык, русский токарь нашел пути к сердцам ревельских рабочих, стал в их среде своим человеком. Он втягивал рабочих в разговоры на политические темы, некоторым из них давал нелегальную литературу, поясняя при этом, что такие книги «дают большую силу человеку — окрыляют его». Рабочий-вольтовец П. Карилайд в воспоминаниях пишет: «М. И. Калинин сразу заслужил репутацию хорошего работника. Он очень быстро стал своим и подружился со всеми, несмотря на то, что не знал эстонского языка, а мы тогда плохо понимали русский».[29]
М. И. Калинину суждено было сыграть немалую роль в истории социал-демократических организаций Эстонии. Задача создания боевой нелегальной организации требовала соединить в единое русло все разрозненные революционные ручейки — местных социал-демократов, политических ссыльных, передовых рабочих разных национальностей. Только объединенными усилиями можно было продвинуть вперед дело политического просвещения масс, их организации.
Расширению нелегальных революционных связей Калинина с местным подпольем способствовал его переход (в ноябре 1901 года) с завода «Вольта», где он проработал более полугода, в ревельские железнодорожные мастерские. Специфика работы в мастерских давала большую возможность для нелегальных и легальных поездок связных в Петербург и другие города для доставки литературы. В мастерских Калинин так же, как и на заводе «Вольта», быстро завоевал симпатии рабочих, их уважение и признание. Им по душе были его политическая смелость, революционный дух суждений, особенно когда вопрос касался интересов рабочего класса.
В первой половине 1902 года Калинин создал марксистский кружок, в который входили передовые рабочие-железнодорожники и учащиеся железнодорожного технического училища. Занятия кружка посещали рабочие других предприятий Ревеля и революционно настроенные представители местной интеллигенции. Значительную роль в кружке играли питерские рабочие-обуховцы, студенты Московского университета, высланные в Ревель за участие в «студенческих беспорядках». Марксистские кружки были организованы и на других предприятиях города. Был заведен гектограф. Прокламации печатались на русском, эстонском, латышском языках и широко распространялись по заводам и фабрикам Ревеля. Эти революционные листки не оставляли без внимания факты произвола, незаконных штрафов, притеснений, сверхурочных работ. Учитывая, что многие эстонские рабочие — недавние крестьяне, не порвавшие связи с деревней, Калинин использовал в прокламациях примеры, бичевавшие помещиков и немецких баронов, незаконно владевших землей, грабивших крестьян. «Наша группа, — писал М. И. Калинин, — стала настолько заметна, что я уже был приглашен в новую редакцию эстонской газеты на конспиративные совещания… У нас уже почти на всех заводах были связи, а в вагоностроительном заводе даже целый кружок. Заведены были связи и с типографией, откуда нашим приходилось тащить шрифт и типографскую краску».