Но подобного рода указания были каплями в море разбушевавшегося в Советском Союзе террора. По сфабрикованным делам более сотни деятелей ИККИ были арестованы, преданы суду и уничтожены во второй половине 1930-х годов. Мы приведем лишь несколько наиболее известных имен жертв репрессий: В. Антонов-Овсеенко, Я. Берзин, М. Бородин, Н. Бухарин, X. Валецкий, А. Барский, Н. Ежов, Г. Зиновьев, Л. Каменев, Л. Карахан, Н. Крестинский, Б. Бун, Р. Меринг, П. Миф, А. Нин, Н. Осинский, М. Паукер, О. Пятницкий, К. Радек, X. Раковский, Я. Рудзутак, А. Рыков, Д. Рязанов, Г. Сокольников, М. Трилиссер (М. Москвин), И. Уншлихт, Л. Шацкин и многие другие.
В условиях массового террора в отношении видных работников Коминтерна значительно снизилась активность руководящих органов ИККИ. В связи с усиливавшейся проверкой кадров в годы репрессий против «врагов народа» расширил свою деятельность и численно вырос в 1936—1938 годах лишь Отдел кадров — с 30 до 64 человек.
В феврале 1936 года Секретариат ИККИ вменил Отделу кадров в обязанность «прекратить существующую до сих пор практику оставления на территории СССР лиц (имеются в виду иностранные граждане), подозреваемых в провокации и шпионаже, допуская исключение только в тех случаях, когда этого требуют соответствующие органы». Отделу кадров было предписано «разработать и провести ряд мер по возвращению в капиталистические страны всех лиц, не проявивших в прошлом необходимой большевистской стойкости и преданности партии, в первую очередь тех, кто заподозрен в шпионаже и провокации». Запрещалось оставлять в СССР «лиц, которые отсеялись по разным мотивам при наборе или выпуске международных школ». В то же время подлежали «возвращению в свои страны все лица, ранее учившиеся в международных школах и оставшиеся на территории СССР».
Массовые репрессии, развернувшиеся в СССР в эти годы, влияли на настроения коминтерновцев. Если раньше они искали в СССР убежище от преследований на родине, то теперь, видя складывающуюся в Советском Союзе ситуацию, некоторые из них дрогнули. В этой связи характерна судьба иностранных слушателей коммунистических школ (институтов, университетов) в 1936— 1938 годах. В письме Г. Димитрову от 23 апреля 1938 года и. о. директора НИИ по изучению национальных и колониальных проблем (НИИНКП) Ф. Котельников просил содействия в отправке студентов из института, так как «дальнейшее их пребывание становится нетерпимым». Речь шла о 36 слушателях из Индии, Вьетнама, Филиппин, Сирии, Палестины, Японии, которые настойчиво добивались только одного: чтобы их отправили домой. Димитров поручил М. Москвину «ускорить разрешение этого давнишнего вопроса». Поскольку «ускорение» не получалось, а положение усложнялось, Димитров обратился 19 января 1939 года с просьбой к К. Ворошилову «отправить в Китай 58 человек, …вопрос с органами (НКВД) согласован».
Отдел кадров подбирал на руководящие посты наиболее надежных людей. Достаточно назвать несколько имен из числа тех, кто в предшествующие войне годы занимал руководящие посты в ИККИ: И. Сталин, Д. Мануильский, А. Жданов, Г. Димитров, Эрколи (Пальмиро Тольятти), О. Куусинен, В. Пик, X. Диас, Д. Ибаррури, И. Копленик, Г. Поллит, Л.К. Престес, М. Ракоши, Э. Тельман, В. Ульбрихт, Чжоу Эньлай, М. Торез, К. Готвальд, Блас Рока, А. Запотоцкий, В. Коларов…
Те из них, кто пережил войну, стали руководителями своих компартий и возникших после войны «стран народной демократии».
С 1936 года ОМС стал называться «Службой связи Секретариата ИККИ». С учетом усиления напряженности международной обстановки и опасности войны рекомендовалось полностью отделить все легальные связи от нелегальных, а представителям «эмигрантских партий» — выделить ответственных лиц для связи с нелегальным аппаратом. Этим лицам запрещалось посещать легальные собрания партии. Предпринимались и другие меры конспирации: «резервный партаппарат» не привлекался к нелегальной работе, переговоры по всем вопросам нелегальной работы должны были вестись на конспиративных квартирах и т.д.
Можно привести пример реорганизации Парижского пункта связи. В 1936—1937 годах были созданы три точки: первая — для связи с ЦК КП Франции, Испании, Бельгии, Люксембурга, с международными коммунистическими организациями (КИМ, МОПР, Антиимпериалистическая лига, Спортинтерн). А также с находившимся в те годы в Париже аппаратом во главе с Богдановым, осуществлявшим связь с Балканскими странами. Вторая точка— для связи с «эмигрантскими партиями», находившимися во Франции (КП Германии, Италии, Португалии, Греции, Албании, Югославии). Третья точка — для связи с компартиями Латинской Америки. Существовал и резервный пункт, способный начать действовать в случае провала точек. Пункт связи в Париже поддерживал связь с пунктами в Швеции, Голландии, Норвегии, а также осуществлял связь с Москвой по радио. Одна из радиостанций имела связь с Интербригадами в Испании. Из созданных четырех радиостанций две были действующими и две резервными. (После провала бельгийской «Красной капеллы» в 1942 году ее руководителю Л. Трепперу удалось связаться с Москвой через одну из этих радиостанций.)