Большинство сформированных на Украине казачьих полков были задействованы на охране автомобильных и железных дорог, других военных объектов, а также в борьбе с партизанским движением на территории Украины и Белоруссии.
Однако особенно много казаков влилось в германскую армия после того, как части Вермахта вступили на территории казачьих областей Дона, Кубани и Терека. Вступая в казачьи станицы, немцы расклеивали листовки, призывавшие казаков к сотрудничеству, к во становлению традиционного самоуправления. В свою очередь, немецким солдатам разъяснялось, что здесь они имеют дело с «союзниками», находятся на «дружественной территории».
25 июля 1942 г., сразу же после занятия немцами Новочеркасска, к представителям германского командования явилась группа казачьих офицеров, изъявив готовность «всеми силами и знаниями помогать доблестным германским войскам в окончательном разгроме сталинских приспешников». В сентябре в Новочеркасске собрался казачий сход, на котором был избран штаб Войска Донского (с ноября 1942 г. — штаб Походного атамана) во главе с полковником С.В.Павловым, приступивший к организации казачьих частей.
Все казаки, способные носить оружие должны были явиться на пункты сбора и зарегистрироваться. Станичные атаманы обязывались в трехдневный срок произвести регистрацию офицеров и казаков, подобрать добровольцев для организуемых частей. Каждый доброволец мог записать свой последний чин в Российской Императорской армии или же в белых армиях. Одновременно атаманы должны были обеспечивать добровольцев строевыми лошадьми, седлами, шашками и обмундированием. Вооружение для формируемых частей выделялось по согласованию с германскими штабами и комендатурами.
В перешедших под контроль германской военной администрации казачьих областях Дона, Кубани и Терека воссоздавалось казачье самоуправление во главе со станичными и окружными атаманами, с вооруженными отрядами самообороны. Вскоре после оккупации Кубани группой армий А, ее командование получило из Берлина разрешение создать в качестве эксперимента автономный казачий район, в котором после ухода германских войск предполагалось установить полное самоуправление. Местному населению была гарантирована свобода в культурной, образовательной и религиозной деятельности. В отличие от других оккупированных областей здесь была разрешена ликвидация колхозов и переход к частной земельной собственности.
Казачий район был сформирован 1 октября 1942 г. Он включал в себя территории шести советских административных районов нижней Кубани с населением около 160 тыс. человек. Приказ о создании района был издан без согласования с Восточным министерством, чиновники которого потребовали у военных объяснений по данному факту. Однако, несмотря ни на какие протесты, 5 ноября создание Казачьего района было официально утверждено.
В январе 1943 г., когда границы района расширились, был назначен атаман, началась дискуссия по вопросу о долгосрочной автономии, которая не мешала бы в будущем вхождению района в федерацию с Россией, Украиной или Кавказом. Далеко идущие реформы планировались в области сельского хозяйства, однако на практике удалось сделать немногое. В конце января 1943 г. германские войска оставили почти всю территорию Северного Кавказа, и экспериментальный район был ликвидирован. Тысячи казаков с семьями потянулись вслед за отступающими немецкими войсками, прекрасно понимая, что ожидает их — как за сотрудничество с немцами, так и просто за нахождение на оккупированной территории.
В ноябре 1942 г., незадолго до начала советского контрнаступления под Сталинградом, германское командование дало санкцию на формирование в областях Дона, Кубани и Терека казачьих полков. Так, из добровольцев донских станиц в Новочеркасске были организованы 1-й Донской полк под командованием есаула А.В.Шумкова и пластунский батальон, составившие Казачью группу Походного атамана полковника С.В.Павлова. На Дону также был сформирован 1-й Синегорский полк в составе 1260 офицеров и казаков под командованием войскового старшины (бывшего вахмистра) Журавлева. Из казачьих сотен, сформированных в станицах Уманского отдела Кубани, под руководством войскового старшины И.И. Саломахи началось формирование 1-го Кубанского казачьего конного полка, а на Тереке по инициативе войскового старшины Н.Л.Кулакова — 1-го Волгского полка.