Переезд в город не уберег семью от дальнейшего ухудшения материального положения, о чем свидетельствуют неоднократные переезды с одной квартиры на другую, каждый раз меньшую и худшую. Очередные наполеоновские планы главы семейства по кардинальному изменению ситуации, как и прежде, не давали ожидаемых результатов, а банковские кредиты, получаемые под залог земли, в основном уходили на пропитание большой семьи.
Зюк поступил в гимназию в 1877 году. Он чувствовал себя в школе достаточно уверенно, потому что классом выше учился его старший брат Бронислав, к которому он был очень привязан. Но особой любви к школе он не питал. Ему не нравились царившая там рутина, нежелание педагогов видеть в своих учениках равных себе людей, их бесконечные придирки, стремление унизить, глумление над всем тем, что он ценил и любил. Политика русификации, последовательно проводившаяся после разгрома восстания 1863 – 1864 годов в Западном крае (так назывались области, в результате разделов Речи Посполитой отошедшие к России), не могла не вызывать несогласия и внутреннего протеста в душе мальчика, воспитанного матерью в духе глубокого патриотизма, любви к польской истории и культуре и неприязни ко всему русскому. Известно, что родители при всем своем гостеприимстве никогда не приглашали домой русских и не водили с ними близкого знакомства.
Несомненно, проведенные в гимназии годы также имели громадное значение для формирования личности Юзефа. Он относился к той категории учеников, которые никогда не доставляют особых хлопот ни родителям, ни учителям. Если и прогуливал уроки, то всегда по уважительным причинам – по болезни или семейным обстоятельствам. За все время обучения в гимназии он только три раза был наказан карцером – один раз за разговор по-польски в школьной раздевалке и дважды за то, что не поклонился на улице генерал-губернатору и директору гимназии. Вряд ли в этом следует усматривать какой-то бунт мальчика против школьного регламента, а уж тем более политический протест, как это делали некоторые биографы маршала.
Учился Зюк без особого напряжения, особым прилежанием не отличался, домашние задания, в частности по русскому языку, выполнял не всегда аккуратно, поэтому говорил на нем и писал с ошибками. Зато очень много читал по-польски – и художественных произведений, и исторических трудов, особенно по военной тематике. Любовь к занятиям историей сохранится у него на многие годы, и особенно глубоко он будет изучать историю Наполеоновских войн и восстания 1863 – 1864 годов.
В школьные годы все более определялись его характер, привычки, манера общения с окружающими. Юзеф отличался живым, веселым и при этом достаточно сильным характером. Был честолюбив, любил находиться в центре внимания окружающих и умел этого добиваться. Свойственный ему подростковый эгоцентризм временами переходил в эгоизм, но в целом он умел ладить и со сверстниками, и с взрослыми, и, по свидетельству Бронислава, был баловнем семьи. Сохранились свидетельства, что во время учебы в гимназии он давал частные уроки, зарабатывая на карманные расходы и помогая тем самым семье.
Естественные для молодых тяга к тесному общению со сверстниками и неприятие конформизма взрослых выразились у виленских гимназистов-поляков в создании в 1882 году кружка закрытого характера «Спуйня» («Связь»). В то время в России среди гимназистов старших классов и студентов различного рода кружки были в большой моде. При отсутствии легальных возможностей обсуждать вопросы общественной жизни и политики кружки нередко становились единственным местом, где можно было свободно говорить о волновавших молодежь проблемах и искать ответы на наболевшие вопросы бытия. Именно из таких кружков вышли народовольцы и ранние социалисты.
Судя по направленности деятельности «Спуйни», главной своей задачей члены кружка считали самообразование, знакомство с новыми общественными движениями и теориями, о которых не могло быть и речи в классических гимназиях. С этой целью они приступили к созданию библиотеки, комплектуя ее книгами из домашних библиотек, приобретаемыми новинками и легальными периодическими изданиями на польском языке. На периодически организуемых «сессиях» кружка его участники обсуждали прочитанное, читали вслух, рассуждали на различные темы. Помимо литературы патриотического содержания особой популярностью у них пользовались бывшие в то время на слуху труды Ч. Дарвина, О. Конта, Т. Гексли, Г. Спенсера, Л. Бюхнера и других естествоиспытателей и социологов, большинство которых сразу же после выхода в свет на родине переводились на русский язык. По мнению Анджея Гарлицкого, одного из знатоков биографии Пилсудского, «скорее всего молодые конспираторы из прочитанного понимали не очень много, но это было свидетельством идейных поисков того поколения»