Причиной разногласий Гиммлера с другими лидерами, особенно с Герингом и Риббентропом, было его вторжение в то, что они считали своей привилегированной территорией. Информационные службы Гиммлера во многом превосходили разведку Геринга и Риббентропа, потому что его служащие, такие как Шелленберг, часто были умнее и профессиональнее. Во время «Битвы за Англию» данные Гиммлера о количестве английских самолетов вдвое превышали подсчеты Геринга, чей легкомысленный оптимизм относительно победы над Британией за несколько дней частично основывался на его уверенности в том, что в Британии выпускается около 300 самолетов в месяц. Геринг не приветствовал появление столь противоречивых данных, а Риббентроп не одобрял вмешательство Гиммлера во внешнюю политику. Риббентроп и Гиммлер в 1940 году расходились во взглядах на политику в Румынии, а в октябре Гитлер послал Гиммлера в Испанию с поручением постараться втянуть Франко в войну. В том же 1940 году он ездил в Норвегию с целью усиления кампании против нарастающего движения Сопротивления. Он ввел страшную систему преследования людей, выступающих против Германии: арестовывал их родственников и детей и держал их в заложниках.
Риббентроп был в равной степени обижен распространением за рубеж гиммлеровской разведки во главе с Шелленбергом и попытками Гиммлера влиять на политику Германии в оккупированных странах. Разрыв в отношениях двух министров достиг критической точки зимой 1941–1942 гг., когда, по свидетельству фрау фон Риббентроп, Гиммлер даже пытался втянуть ее мужа в свои интриги. «Мой муж считал невозможным, с точки зрения международных отношений, чтобы Гиммлер стал преемником Гитлера». Риббентроп в своих «Мемуарах» суммировал все пункты, по которым в то время расходился во мнениях с Гиммлером, включая его непримиримое отношение к масонству и церкви, его обращение с евреями и разрушительную деятельность в таких странах, как Франция, Дания и Венгрия. Риббентроп жаловался на то, что его послы находились под наблюдением СД и фюреру посылались секретные отчеты об их работе. Риббентроп страшно возмущался тем, что это делалось за его спиной, особенно если, прочитав эти отчеты, Гитлер принимал решения, основываясь, по выражению Риббентропа, на «ложной информации». Он выражал недовольство тем, что Гиммлер в Румынии поддерживал Гория Симу уже после того, как на конференции в присутствии Гитлера было решено, что им следует поддерживать Антонеску.
Чтобы подтолкнуть Риббентропа к немедленным действиям, Шелленберг изобрел один трюк в духе Макиавелли, который доставил ему огромное удовольствие, поскольку позволил дискредитировать тайную полицию министра иностранных дел. Он утверждал, что действовал по инструкции Гиммлера: «сделать все от него зависящее, чтобы разрушить организацию». Шелленберг преуспел в снабжении агентов Риббентропа ложными сведениями о польском правительстве, находящемся в изгнании в Лондоне, и стал ждать, пока на стол Риббентропа не попадут ошибочные рапорты, которые затем будут представлены фюреру. Подобная тактика вряд ли могла сблизить Риббентропа и Гиммлера.
В январе 1941 года Гиммлер сделал попытку распространить свою власть и власть Гейдриха на немецкую судебную систему. Он попросил Гитлера вместо подконтрольного им Министерства юстиции передать им управление Министерством внутренних дел Фрика, в котором министр Вильгельм Штукарт был членом СС, и Гиммлер мог на него влиять. Гитлер, который всегда реагировал очень настороженно, если кто-то просил избавить его от власти, не ответил на просьбу, и суды до конца войны остались за пределами контроля гестапо.
Однако уголовную и политическую полицию Гиммлер контролировал полностью. Каждая гау, или административная провинция Германии, имела своего высшего лидера СС, человека, дублирующего обязанности гауляйтера, но полностью несущего ответственность перед Гиммлером и Гейдрихом. С распространением правления Германии лидеров СС стали назначать в такие отдаленные места, как Осло и Афины, Варшава и Гаага. В России они были прикреплены к каждой айнзацкоманде. Эти люди возглавляли разбирательства по всем делам, которые можно было назвать уголовными или политическими, и отвечали только перед штаб-квартирой в Берлине.
