15 апреля 1935 года секретным приказом наркома обороны Я.К. Берзин был освобожден от руководства Разведупром. Его место занял С.П. Урицкий, перешедший с должности начальника Автобронетанкового управления штаба РККА. На Разведуправление возлагались и задачи цензуры, то есть охрана военных тайн в печати.
Постановлением ЦИК и СНК СССР от 22 сентября 1935 года в РККА устанавливались персональные воинские звания. В этом же году была утверждена более новая структура Разведупра.
21 августа 1937 года начальник отдела кадров Разведупра сообщил, что число новых разведчиков, устроившихся на работу в 1935 году, составляет только 72 %, общий же штат на 50 % был не укомплектован. Таким образом, РККА фактически осталась без разведки, а агентурная нелегальная сеть, которая являлась основой разведки, оказалась почти полностью ликвидирована. К концу 1941 года в центральном аппарате Разведупра почти не осталось старых сотрудников разведки.
Рис. 3. Организационная структура Разведуправления РККА
В этом были повинны репрессии 1937–1940 годов, которым подверглись сотни разведчиков, примерно половина всего личного состава разведки. Самыми распространенными обвинениями были: «участие в военно-фашистском заговоре», «в контрреволюционных организациях», «шпионаже» и т. д. В 1939 году центральный аппарат Разведупра вновь получил номерное наименование и стал называться Пятым Управлением РККА.
В июне 1940 года 5-е Управление передается обратно в Генштаб и получает название Разведывательного управления Генерального штаба РККА, также несколько изменилась его организационная структура.
Угроза надвигающейся Великой Отечественной войны вызвала необходимость воссоздания агентурных сетей, разрушенных НКВД и зарубежными контрразведками. Целый ряд разведгрупп был создан в предвоенные годы в Болгарии, Турции, Румынии, Югославии, Греции, Германии, Австрии, Швеции и других странах. Под крышей различных советских организаций за границей, таких как Интурист, Аэрофлот, Госкино и др., работали также представители военной разведки.
В 1989 году один из заместителей начальника ГРУ, генерал-полковник Г.А. Михайлов отмечал, что перед войной в СССР регулярно поступала информация о подготовке фашистской Германии к нападению на Советский Союз. С большой точностью были переданы численность боевого состава, группировка войск противника, сообщено решение Гитлера о нападении на СССР.
Война вынудила СССР готовить солдат для работы в тылу противника. В учебном лагере под Москвой в первые месяцы войны около полутора тысяч человек (русские, немцы, поляки, чехи, румыны, итальянцы и др.) изучали стрельбу, радиодело, топографию, прыгали с парашюта, овладевали основами конспирации и всем тем, что могло пригодиться разведчику в тылу врага. 16 февраля 1942 года Разведупр преобразовывается в Главное разведывательное управление (ГРУ) Генштаба, его начальником становится генерал танковых войск А.П. Панфилов. Вводилась и новая организационная структура ГРУ Генштаба (рис. 4).
В эти же годы усиливалась работа зарубежных разведчиков СССР. В начале 1944 года на территории рейха и оккупированных им стран работало около пятисот нелегальных раций антигитлеровской коалиции.
Восстановилась кадровая стабильность, в ГРУ работало немало профессиональных разведчиков, пришедших в эту службу еще в предвоенные годы. Среди них хотел бы назвать моих бывших начальников, с которыми во время службы в ГРУ я был хорошо знаком: адмирал Л.К. Бекренев, генерал Н.А. Кореневский, генерал Х.-У.Д. Мамсуров и др. Следует отметить, что многие выходцы из военной разведки пополняли дипломатическую службу, часть из них обладали рангами послов: Е.Г. Забродин, И.И. Ильичев, В.З. Лебедев, К.К. Родионов и др.