За два года Серов уволил из КГБ шестнадцать тысяч человек «как не внушающих политического доверия, злостных нарушителей социалистической законности, карьеристов, морально неустойчивых, а также малограмотных и отсталых работников». Две тысячи убрали из центрального аппарата, сорок человек лишили генеральских званий. «Заменены почти все руководящие работники главных управлений, управлений и отделов центрального аппарата, — говорилось в одном из документов. — На эти должности более шестидесяти человек направлены ЦК КПСС с руководящей партийной и советской работы».
В стране прошло несколько процессов над бывшими сотрудниками органов госбезопасности.
В июле 1954 года расстреляли бывшего заместителя министра госбезопасности Рюмина.
Осудили людей Берии: его бывшего помощника по вопросам внешней политики Петра Афанасьевича Шарию (получил десять лет), бывших начальников секретариата НКВД и МВД генерал-лейтенанта Степана Соломоновича Мамулова и Бориса Александровича Людвигова (пятнадцать лет), бывшего заведующего секретариатом первого заместителя председателя Совета министров Григория Алексеевича Ордынцева и заведующего приемной Берии Федора Васильевича Муханова (их признали виновными в недонесении о государственном преступлении и отправили в ссылку).
В декабре 1954 года в Доме офицеров в Ленинграде судили бывшего министра госбезопасности Виктора Абакумова и его подручных. Абакумов виновным себя не признал. Он настаивал на том, что все решения принимались ЦК, он же был всего лишь исполнителем:
— Сталин давал указания, я их исполнял.
Но как только Абакумов это произнес, обвинитель тут же встал и сказал, что это к делу не относится, и попросил председательствующего лишить обвиняемого слова. Абакумову ничего не позволили сказать о тех указаниях, которые он получал от Сталина. Таково было распоряжение, данное Хрущевым обвинителю на процессе Роману Андреевичу Руденко.
Процесс Абакумова очень беспокоил Маленкова. Он не выдержал и позвонил Руденко:
— Абакумов вполне может сказать, что я вместе с ним вел допросы.
— Конечно, может, — отозвался Руденко.
— Но ведь это ложь! — вскричал Маленков.
— А что стоит солгать Абакумову? — меланхолично заметил Руденко.
Ставленник Хрущева Руденко мог себе позволить равнодушно отнестись к звонку Маленкова. Тем более что прокурор Руденко твердо знал: Абакумов не врал относительно роли Маленкова в репрессиях…
7-19 сентября 1955 года в Тбилиси Военная коллегия Верховного суда судила бывших министров госбезопасности Грузии генерал-лейтенанта Авксентия Нарикиевича Рапаву, генерал-лейтенанта Николая Максимовича Рухадзе и заместителя министра внутренних дел Грузии генерал-лейтенанта Шалву Отаровича Церетели, а также бывших сотрудников НКВД (МВД) полковника Константина Сергеевича Савицкого, полковника Никиту Аркадьевича Кримяна, подполковника Александра Самойловича Хазана, полковника Георгия Иовича Парамонова, бывшего коменданта внутренней тюрьмы НКВД Грузии, а затем охранника Берии полковника Сардиона Николаевича Надараю.
Кроме Парамонова и Надараи, всех приговорили к расстрелу — это были настоящие костоломы, убийцы в погонах.
В 1956 году настала очередь бывшего первого секретаря ЦК Компартии Азербайджана Мир Джафара Багирова, бывшего начальника Берии в ЧК и бывшего наркома внутренних дел республики. Карен Нерсесович Брутенц, автор книги «Тридцать лет на Старой площади», начинавший в Баку, пишет о Багирове: если оставить за скобками этические категории и оценки, следует признать — речь идет о сильной, незаурядной и яркой личности, человеке с ясным умом, недюжинным организаторским талантом, с широким кругозором и неординарным политическим инстинктом, волевом и решительном.
Его сняли на объединенном пленуме Бакинского и Центрального комитетов Компартии Азербайджана. Из Баку убрали и назначили заместителем начальника объединения «Куйбышевнефть» по кадрам. Летом 1956 года его судили в Баку и расстреляли.
В феврале 1959 года судили бывшего начальника охраны Берии полковника Рафаэля Семеновича Саркисова. Он получил десять лет.