После войны Ф. Гальдер остался на службе в рейхсвере. Занимал должности преподавателя тактики при штабе 7-го военного округа (Мюнхен), сотрудника отдела боевой подготовки министерства рейхсвера. С приходом к власти фашистов он начал активно сотрудничать с этим режимом. В последующем службу проходил в должностях начальника штаба 6-го военного округа (Мюнстер), командира 7-й баварской дивизии, 2-й, затем 1-й обер-квартирмейстер Генерального штаба, руководивший боевой подготовкой сухопутных войск. Был заместителем Бека, который, уходя в отставку, рекомендовал его Браухичу на должность начальника Генерального штаба сухопутных войск Германии, считая, что Гальдер продолжит начатую им политику. На эту должность Ф. Гальдер был назначен 27 августа 1938 года в день, когда А. Гитлер стал Верховным главнокомандующим вооруженными силами Германии. Ему было присвоено воинское звание генерал-полковника.
Надежды Л. Бека в 1938 году имели свое основание. Ф. Гальдер разделял убеждения своего шефа и всячески помогал ему. И, став начальником Генерального штаба, Ф. Гальдер не перестал критически относиться к тому, что предлагал фюрер. Из своих источников Гитлер знал об этом, но был вынужден смириться с присутствием Ф. Гальдера исключительно ввиду его высокого профессионализма, которое так нужно было фюреру для реализации его агрессивных замыслов.
С этими замыслами не были согласны многие немецкие генералы, пережившие неудачу Первой мировой войны. В 1938 году в ряды оппозиции вступили новые члены. Кроме В. фон Браухича и Ф. Гальдера, в нее вошли командующий 3-м военным округом, включавшим Берлин и прилегающие территории, генерал Эрвин фон Вицлебен, начальник Потсдамского гарнизона генерал Эрих фон Брокдоф-Алефельд и командир танковой дивизии, расположенной в Тюрингии, генерал Эрих Гёпнер. Заговорщики дошли до того, что даже составили план отстранения Гитлера от власти сразу же после того, как он отдаст приказ о нападении на Чехословакию. Но уступничество Гитлеру со стороны Англии и Франции помешало реализации этого плана.
Вынашивая антигитлеровские планы, в то же время В. фон Браухич и Ф. Гальдер продолжали работать над планированием военной операции по вторжению в Чехословакию и, по мере того как приближался день «Х», все более увлекались этой работой. Подстегивал и постоянный контроль со стороны фюрера.
9 сентября 1938 года Гитлер вызвал Кейтеля, Браухича и Гальдера в Нюрнберг на совещание, которое началось в 10 часов вечера, а закончилось в 4 часа утра. Это совещание проходило очень бурно. В. фон Браухич и Ф. Гальдер оказались в очень щекотливом положении. Им, главным заговорщикам против Гитлера, приходилось в деталях докладывать фюреру план нападения на Чехословакию. При этом Гитлер постоянно упрекал обоих в трусости и неспособности руководить подготовкой операции.
Но и после посещения Нюрнберга Браухич и Гальдер продолжали работу, направленную против агрессивных планов Гитлера. С целью более глубокого изучения обстановки они поручили ведущему сотруднику абвера полковнику Остеру постоянно информировать их о политических шагах фюрера и через надежных людей предупредили руководителей Англии и Франции о подготовке вторжения в Чехословакию.
Затем Браухич и Гальдер встретились с Шахтом и еще раз детально уточнили план выступления против Гитлера. Переворот был назначен на 13 сентября 1938 года, сразу же после того, как фюрер вернется в Берлин с партийного съезда, проходившего в Нюрнберге. Но Гитлер, словно почуяв опасность, в Берлин не вернулся, а поехал сначала в Мюнхен, а затем в Берхтенсгаден, где должен был встретиться с британским премьером.
Дата путча была перенесена на 28 сентября. Позже, в своих показаниях на Нюрнбергском процессе, Ф. Гальдер по этому вопросу сообщил следующее: «В полдень 26 сентября ко мне в кабинет зашел Вицлебен. Мы обсуждали положение дел. Он хотел, чтобы я отдал приказ действовать. Мы обсудили, сколько ему понадобится времени и т.д. Во время нашего разговора пришло известие о том, что британский премьер-министр и французский премьер согласились приехать к Гитлеру для дальнейших переговоров. Тогда я отменил приказ, так как полученные новости лишали наш план всякого смысла...»
