Соединения Воронежского фронта в предыдущих наступательных боях понесли значительные потери, резервы отсутствовали, не хватало горючего, боеприпасов, вооружения, тылы растянулись на 250–300 км.
4 марта соединения 4-й танковой армии противника нанесли удар по 3-й танковой армии Воронежского фронта. Несмотря на недостаток сил, она оказала упорное сопротивление противнику, которому в течение двух дней удалось вклиниться в ее оборону всего на 6–8 км. Тогда он 6 марта перенес направление главного удара в стык 69-й и 3-й танковой армий. Под давлением противника войска 3-й танковой армии отошли на рубеж Просяное, Новая Водолага, Московка, Рябухино.
7 марта противник, осуществив перегруппировку, нанес главный удар в направлении Валки, Новая Водолага, Мерефа и вспомогательный – в направлении Знаменка, Старая Водолага, Одрынка. Части ослабленной в предыдущих боях 48-й гвардейской стрелковой дивизии не смогли сдержать натиск противника и отошли в район Мануилово. Два полка дивизии попали в окружение и были вынуждены самостоятельно пробиваться к своим войскам. 104-я стрелковая бригада удерживала рубеж Паньково, Старая Водолага. 253-я стрелковая бригада со 195-й танковой бригадой получила приказ отойти на северный берег р. Мжа, на рубеж Ракитное, Утковка. 6-й гвардейский кавалерийский корпус и 350-я стрелковая дивизия отошли на северный берег р. Мжа в район Кравцово, Тимченков, Миргород. В связи с обострением обстановки севернее Харькова распоряжением командующего войсками Воронежского фронта 6-й гвардейский кавалерийский корпус был выведен из состава 3-й танковой армии и направлен в район Дергачи.
9 марта на усиление 3-й танковой армии прибыли 86-я танковая бригада и 303-я стрелковая дивизия, занявшая оборону в районе Коротич, Березовка, Буды, а также 2-й гвардейский танковый корпус (до 120 танков). Но уже в 4 часа утра 10 марта командир корпуса получил приказ о выходе из состава армии и переброске к северу от Харькова. В состав армии был введен 18-й танковый корпус, имевший всего 6 боеготовых малых танков[114]. В этот же день противник вышел с юга к Богодухову, обошел Харьков с севера и прорвал оборону 6-го гвардейского кавалерийского корпуса в районе Дергачей. После этого вражеские части стали развивать наступление в северном и северо-восточном направлениях, создав угрозу окружения всей группировки советских войск, оборонявшейся в районе Харькова. К исходу дня пехота противника начала отдельными группами просачиваться в город со стороны северных окраин.
11 марта в Харьков прорвались танки противника, а его передовые отряды дошли до центра города и заняли дом Госпрома. Начальник обороны Харькова генерал Козлов, не имея связи с войсками, передал управление гарнизоном командующему 3-й танковой армией, а сам выехал из города в неизвестном направлении. После ожесточенных боев защитники Харькова к исходу дня 12 марта отошли за р. Лопань, оставив северную и северо-восточную части города. В документах штаба 3-й танковой армии отмечалось:
«Построенная оборона принесла мало пользы, хотя сил и средств на нее потрачено было много. Построенные огневые точки и баррикады были не использованы из-за отсутствия расчета огневых средств на их прикрытие и просто из-за отсутствия достаточного количества огневых средств у начальника обороны. Частям, обороняющим город Харьков, схемы оборонительных сооружений штаб обороны не дал, в силу чего и не все укрепления были частями использованы. Заблаговременно эти укрепления никем не занимались, а отходящие части в лучшем случае случайно на них натыкались и использовали. В большинстве же случаев не использовались вовсе. Передача обороны Харькова 3-й танковой армии начальником обороны была произведена по причинам отсутствия у него надлежащих средств управления обороняющимися частями и в момент, когда уже штабу 3-й танковой армии было поздно изучать участки обороны, рубежи и части, обороняющие город. Поздно было заниматься и перегруппировкой сил, хотя это и диктовалось обстановкой»[115].
Противник, наращивая усилия, к исходу дня 14 марта занял Терновую, Лизогубовку, Боровое и Водяное, прервав все пути подвоза. К этому моменту в Харькове продолжали обороняться части 19-й стрелковой дивизии и 17-й бригады войск НКВД при поддержке 179-й отдельной и 86-й танковых бригад. 62-я гвардейская стрелковая дивизия и остатки 303-й и 350-й стрелковых дивизий занимали оборону в районе Жихар, Безлюдовка, 104-я стрелковая бригада удерживала район Лялюки, а 253-я стрелковая бригада – Кулиничи. Утром 15 марта, получив разрешение штаба фронта на оставление Харькова, командующий 3-й танковой армией отдал приказ о прорыве частей в направлении Малиновка, Граково с последующим выходом на восточный берег р. Северский Донец на рубеж Старый Салтов, Волчанск.