Вместе с Канарисом на Принц-Альбрехтштрассе сидело множество участников оппозиции. Среди них были Гёрделер, генералы Гальдер, Томас, Остер, бывший министр Попитц, главный судья Зак и доктор Мюллер, а также Лидиг, Штрюнк, Гере, Небе и пастор Бонхёффер. С Канарисом обращались с особенной жестокостью. Он был в наручниках и в течение долгого времени получал лишь треть нормального рациона заключенных.
Расследование дела о попытке государственного переворота Гитлер сразу после покушения поручил лично рейхсфюреру СС Гиммлеру, а исполнение приговора — высшему суду по политическим преступлениям (Фольксгерихтсхоф).[290] Для ведения дознания в РСХА была создана особая комиссия в составе нескольких групп следователей из IV управления (гестапо). Одну из них возглавлял правительственный уполномоченный в РСХА Вальтер Хуппенкотен. Он вначале расследовал дела графов фон Штауффенберга, фон Шверина и фон дер Шуленбурга, затем — генерал-лейтенанта Пфульштайна, последнего командира дивизии «Бранденбург» и подполковника Хайнца. Далее последовали дела Остера и Донаньи и, наконец, — дознание по делу Канариса. На допросах обвиняемых, кроме Хуппенкотена, присутствовали также штандартенфюрер СС Патцингер и комиссары криминальной полиции Зондерэггер, Ланге и Шрай. Хуппенкотен в основном опирался на материалы из архивов управления «Абвер/Аусланд» за период с конца 1942 до конца 1943 г. Эти материалы позволили установить, что в абвере уже несколько лет существовала группа Сопротивления, имевшая связи с другими группами. Одним из связных был служивший в абвере до февраля 1944 г. капитан Гере, арестованный за несколько месяцев до этого по подозрению в государственной измене. Однако вскоре он бежал из-под ареста и скрылся в берлинском подполье. Но в августе 1944 г. он был снова пойман.
В связи с обнаружением на складе учебного лагеря «Майбах-II» в Цоссене запасов взрывчатки гестапо в конце августа предприняло тщательный обыск всех сейфов бывшего управления. При этом оно, конечно, наткнулось на обширные материалы из офиса Канариса, которые в 1942 г. по соображениям безопасности были помещены в сейф Прусского государственного банка. В связи с усилением угрозы в конце 1943 г. подполковник Хайнц переложил эти документы, бегло их просмотрев, в недоступный бункер «Цеппелин» на запасных квартирах ОКХ. Здесь, в особой заградзоне «Майбах-II», располагались во время войны управление общих дел ОКХ и несколько подразделений абвера. Подполковник Шрадер должен был еще раз их просмотреть и в случае серьезной опасности уничтожить[291].
Среди найденных в Цоссене материалов оказались записи, касавшиеся подготовки государственного переворота в 1938 г., установления контактов с Ватиканом с целью подготовки мирных переговоров с Англией, далее — обобщенный обзор обстановки после польской кампании, сделанный генерал-полковником Беком, рукопись карандашом о проведении переворота, написанная рукой Остера, дневник на 20 страницах, который Канарис вел в 1939 г. и где были записи о поездках на фронт с целью склонить командующих к участию в перевороте и, наконец, корреспонденция об усилиях пастора Бонхёффера, устанавливавшего связи для подготовки мирных переговоров после устранения Гитлера. Однако среди всех этих материалов не было пяти папок с дневниками Канариса.
Просмотр и оценка материалов впервые позволили увидеть связь между событиями 20 июля и давно действовавшим Сопротивлением. Подробно изучив документы, Хуппенкотен подготовил свое заключение на 160 страницах с приложением фотокопий некоторых материалов. Копии этого заключения получили Гиммлер, Кальтенбруннер и Мюллер. Разумеется, все это держалось в полном секрете. Гитлер оставил принятие всех решений строго за собой и приказал провести самое тщательное расследование всех обстоятельств и связей, чтобы точно установить виновность арестованных. О ходе расследования ему должны были докладывать постоянно[292].
В последующие месяцы расследование велось под личным наблюдением Хуппенкотена. Выяснилось, что круг причастных к заговору значительно шире, чем предполагалось. Бывший шеф абвера в ходе допросов, чувствуя свое духовное и душевное превосходство, вернул себе прежнюю твердость духа и поэтому мог легче переносить физические и моральные неудобства тюрьмы. К своему удивлению, он в дальнейшем, видя примитивность мышления гестаповской следственной машины, убедился в том, что до сих пор сильно преувеличивал интеллектуальные способности и деловые качества своих противников. Все РСХА уже давно бюрократизировалось сверх всяких мер и было наводнено многочисленными выдвинувшимися благодаря режиму «полицейскими фюрерами», являвшимися кем угодно, но не профессионалами. Начался 1945 г., а расследование под руководством Хуппенкотена все более затягивалось, чему немало способствовало ухудшение обстановки на фронтах. А это, в свою очередь, затрудняло поиск улик не только за рубежом, но и на постоянно сокращавшейся территории, подвластной рейху.