Таким образом, к исходу 16 октября войска Юго-Западного направления в результате неудачного исхода боев на донбасском и частично на харьковском направлениях не смогли создать устойчивой обороны для противодействия наступлению противника. На харьковском направлении против семи немецких дивизий советское командование имело четыре дивизии 38-й армии, в резерве фронта войск не было.
Войска Южного фронта, имевшие в первом эшелоне десять дивизий, сдерживали наступление трех танковых, трех моторизованных и семи пехотных дивизий противника, отходя на рубеж Александровка, Тагангрог. На важнейшем ростовском направлении советские войска имели всего четыре стрелковые дивизии против трех танковых и трех моторизованных дивизий противника. В резерве командующего Южным фронтом также войск, кроме формируемых дивизий, не было.
Командующий Южным фронтом решил использовать благоприятное оперативное положение 9-й армии для нанесения контрудара. Но наступление слабых правофланговых соединений 9-й армии и Таганрогского боевого участка, проводившееся на широком фронте, развития не получило. Противник прорвался через рубеж реки Миус и 17 октября захватил Таганрог.
В это время войска Юго-Западного фронта сдерживали немецкое наступление на 600-километровом фронте. Все соединения были вытянуты в одну линию. Укомплектованность дивизий была низкой. Большая часть их не превышала силы стрелкового полка.
Чтобы не допустить прорыва фронта на юго-западном направлении, Ставка Верховного Главнокомандования приказала войскам Юго-Западного и Южного фронтов с 17 по 30 октября произвести отход на линию на новую линию обороны – рубеж Курск, Белгород, Харьков, Балаклея, Барвенково, Сталино (Донецк), река Миус. Этот рубеж в инженерном отношении из-за недостатка времени был подготовлен слабо. Но наступившая осенняя распутица затрудняла наступление противника и создавала определенные благоприятные условия для подготовки обороны советских войск. Но советское командование не смогло эффективно реализовать эти условия.
Войска 38-й армии Юго-Западного фронта не смогли оторваться от преследования противником и устремились к Харькову.
Оборона этого города решением Генерального штаба была возложена на штаб Харьковского военного округа. Начальником обороны был назначен генерал-майор Маршалков. Войска гарнизона включали 216-ю стрелковую дивизию, только что закончившую формирование 57-ю бригаду войск НКВД, полк народного ополчения, вооруженный исключительно винтовками, 2–3 саперных батальона. Кроме того, в составе этих сил имелось 14 слабоотремонтированных танков устаревших конструкций. Оборона города в инженерном отношении включала внешний обвод и систему внутренних заграждений. Внешний обвод проходил по окраинам города и имел протяженность около 72 километров. Внутри города были построены баррикады, а улицы и мосты – минированы.
Было решено оборонять город путем выдвижения войск вперед с тем, чтобы нанести максимальное поражение противнику на подступах к внешнему обводу. Но на практике эти бои практически никаких результатов не дали. Более того, выдвижение вперед привело к тому, что войска 216-й стрелковой дивизии и прочие не смогли освоиться на подготовленном рубеже внешнего обвода обороны. К тому же возникла путаница с управлением. Обороной Харькова пытались руководить два органа: штаб 38-й армии и штаб обороны города, что внесло большую путаницу и дезориентировало подчиненных командиров и штабы. В результате оборона на внешнем обводе не сложилась.
В период с 21 по 23 октября бои шли на городских улицах. В спешке советское командование отдало приказ о разрушении зданий, водопровода, электростанции и всех мостов. Этот приказ был выполнен, кроме подрыва центрального моста, который уцелел из-за повреждения шнура. 24 октября Харьков был оставлен советскими войсками.
Войска 12-й армии Южного фронта, не ощущая серьезного давления со стороны противника, к исходу 28 октября поспешно откатились на рубеж Артемовск, Горловка. Южнее этой армии под давлением противника отступали войска 18-й и 9-й армий.