4-м Украинском фронтах лишь укреплял Ставку Верховного Главнокомандования во мнении, что эти два военачальника максимально обеспечат успех предстоящих операций 3-го Украинского фронта.
Еще 27 марта 1944 года Советская Армия вышла на границу с Румынией. Теперь практического и немедленного решения требовал вопрос об освобождения Балкан. Немедленного потому, что фашистские правящие круги Румынии во главе с ее военно-фашистским диктатором И. Антонеску вели тайные переговоры с представителями США и Англии. Правители Румынии понимали, что крах фашистской Германии недалек, и ловили момент, чтобы переметнуться в англо-американский блок, заключить сепаратный мир с США и Англией и впустить англичан и американцев в Румынию раньше, чем туда вступят советские войска. Это стремление фашистского правительства Румынии полностью отвечало и так называемому "балканскому варианту" У. Черчилля, который предусматривал высадку союзных войск на Балканах и их продвижение к Германии с юга, чтобы упредить Советскую Армию в занятии стран Юго-Восточной Европы.
На очереди стояла Ясско-Кишиневская операция. Здесь нет нужды говорить о том, как готовилась она и проводилась. Гораздо важнее для понимания образа Бирюзова как военачальника указать на тот факт, что, принимая решение на проведение Ясско-Кишиневской операции, командующий 3-м Украинским фронтом Толбухин полностью воспринял идею своего начальника штаба Бирюзова о нанесении главного удара с Кицканского плацдарма. Это было не просто совпадение мнений двух руководителей фронтовой стратегической операции. Один из них, Бирюзов, с самого начала высказал эту идею, а затем последовательно и целеустремленно обосновывал ее целесообразность, представляя соответствующие расчеты, проверенные и перепроверенные не раз сведения разведки, данные рекогносцировок. Другой, Толбухин, выслушивал все это, однако свое мнение высказывать не спешил, чем не раз даже ввергал Бирюзова в недоумение. Причина, однако, у Федора Ивановича была весьма основательная: он знал мнение Ставки, склонявшейся к тому, чтобы главный удар войска 3-го Украинского фронта нанесли на Кишиневском направлении, то есть на правом фланге, а не на левом, как предлагал Сергей Семенович. Командующий преднамеренно не говорил об этом, чтобы никакие довлеющие авторитеты не связывали творческую мысль его помощника. Убедившись в правоте Бирюзова, он поддержал его идею, облек ее в форму решения на предстоящую операцию, а значит, полностью взял на себя ответственность за то, чтобы убедить Верховное Главнокомандование в предпочтительности именно этой идеи"
В конце июля 1944 года Толбухин выехал в Москву 2 августа Ставка утвердила решение командующего 3-м Украинским фронтом на проведение Ясско-Кишиневской операции.
Ясско-Кишиневская операция, одна из сложнейших стратегических наступательных операций Великой Отечественной войны, началась 20 августа 1944 года. Уже на следующий день войска 3-го Украинского фронта прорвали оборону противника и, развивая наступление, рассекли вражескую группировку, отрезав 6-ю немецкую армию от 3-й румынской. 23 августа войска 3-го и 2-го Украинских фронтов соединились в районе Хуши: в кольце оказалось 18 немецко-фашистских дивизий. 3-я румынская армия на другой день прекратила сопротивление. 23 августа в Румынии под руководством компартии вспыхнуло антифашистское вооруженное восстание, был свергнут режим Антонеску. Румыния объявила войну Германии. К 30 августа войска 3-го Украинского фронта, наступая по обоим берегам Дуная, освободили города Тульчу, Галац, Констанцу, Сулину. 2-й Украинский фронт подошел к Плоешти. Все южное стратегическое крыло немецко-фашистского фронта рухнуло. Был открыт путь на Балканы.
Бирюзов в дни операции буквально не знал ни сна, ни отдыха. С телефонной трубкой и красно-синим карандашом в руке он сам наносил на карту быстро менявшуюся обстановку, вел переговоры со штабом 2-го Украинского фронта, докладывал данные в Москву. Как назло, Толбухин, который вообще не отличался здоровьем, в самом начале наступления заболел. Это еще прибавило работы Бирюзову. Быстрые темпы наступления потребовали срочно сменить КП фронта, надо было выбрать место, обеспечить управление, связь, маскировку. По указанию Толбухина он ежедневно выезжал в войска. В разгар операции, 21 августа, Бирюзову исполнилось 40 лет. Об этом он вспомнил лишь 24-го, следуя на КП 4-го мехкорпуса, вспомнил и рассмеялся: по случайному совпадению ровно год назад, во время боев на Миусе, он в день рождения ехал в этот же корпус...