Иерусалимское королевство перестало существовать. Известие о падении Иерусалима произвело сильнейшее впечатление в Европе. Стотысячное войско крестоносцев выступило в новый Крестовый поход, который ничем не кончился – император Фридрих I Барбаросса утонул во время похода в реке Селефе. Остатки крестоносцев безуспешно в октябре 1190 года осаждали приморскую крепость Акру. В лагере крестоносцев был восстановлен Тевтонский дом, действовал полевой госпиталь. Тогда же сын Фридриха Барбароссы учредил новый военно-монашеский орден только из немцев. Его задачей стала опека немецких пилигримов и борьба с неверными. Первоначально новый орден был открыт для всех, независимо от национальности, но с самого начала в нем доминировали немцы. Устав Deutsher orden был послан на утверждение римскому папе, и в феврале 1191 года Климент III «принял новый орден под защиту святого Петра и апостольского престола». Коротко орден назывался Ordo Theutonicorum, полностью – «Орден госпиталя наисвятейшей девы Марии – «Ordo domus Sanctae Mariae Theutonicorum».
В 1196 году римский папа Селестин III освободил Тевтонский орден от формального подчинения иоаннитам и предоставил ему право избирать для себя магистра. Первым начальником ордена – великим магистром стал Генрих Вальпот. В орден вступили члены германских аристократических фамилий. В 1198 году римский папа Иннокентий IV признал тевтонцев и рыцарским орденом, утвердив устройство ордена, устав и одежду. Новые рыцари стали носить черную тунику и белый плащ с черным крестом на левом плече.
В состав немецкого ордена вошли братья-рыцари, капелланы, служители. Посвящение в рыцари сопровождалось торжественной церемонией и присягой, которой новые члены ордена обещали посвятить свою жизнь борьбе за веру и защите слабых. Во главе ордена пожизненно стоял избираемый великий магистр – Hochmeister, magister generalis, ему подчинялась вся иерархическая структура – командоры, маршалы, комтуры.
Устав Тевтонского ордена был строгим. Рыцари жили в общежитии, спали на твердых постелях, питались довольно однообразно. Они не могли без разрешения начальников покидать месторасположение ордена, даже писать и получать письма. Они не имели никакой собственности, не могли разговаривать с женщинами-
«Ты жестоко ошибаешься, если думаешь жить у нас спокойно и весело. Наш устав – когда хочешь есть, то должен поститься, когда хочешь поститься, тогда должен есть. Когда хочешь идти спать, то должен бодрствовать, когда хочешь бодрствовать, должен идти спать.
Для ордена ты должен отречься от отца, от матери, от брата и сестры, и, в награду за это, орден тебе даст хлеб, воду и рубище».
Тевтонский орден сразу встал на сторону императора Фридриха II и династии Гогенштауфенов в их борьбе с римским папой. Орден для содержания госпиталей и военных целей получал земли в Палестине, его резиденция до 1291 года была в Акре. После ухода из Палестины рыцари получили земли в Европе. Император Генрих VI подарил Тевтонскому дому землю у Борлеты, где орден основал свой первый госпиталь в Европе; он же подарил тевтонцам бывший цистерцианский монастырь с приписанными к нему имениями в Палермо. Резиденция ордена с конца XIII века находилась в Венеции. Тогда же орден получил земли в Тюрингии, Гессене, Австрии, Франконии. И император Фридрих II и папа Гонорий III хотели привлечь орден на свою сторону, давая ему земли в Германии и Италии – тевтонские рыцари начали посредничать между двумя центрами силы.
Владения ордена разделялись на области – Balleien во главе с областными магистрами – Landmagister – Нидерланды, Богемия, Австрия, Тюрингия-Саксония, Эльзас-Бургундия, Лотарингия, Кобленц, Марбург, Бауцен, Вестфалия. В 1211 году великий магистр Тевтонского ордена Герман фон Зальца получил от римского папы привилей – грамоту, освобождавшую орден от контроля светских властей – тевтонцы решили создавать собственное государство.
Начался долгий кровавый путь Тевтонского ордены на Восток.