Неудача переговоров в Музоне и повторное папское отлучение от церкви вновь обострили противоречия в Германии. Адальберт Майнцский, будучи папским легатом, попытался создать новую антиимператорскую оппозицию, прежде всего в Саксонии. Бавария, где в 1120 году Вельфа V сменил его брат Генрих Черный, Швабия, находившаяся под властью герцога Фридриха II, и ряд областей Франконии и Лотарингии встали на сторону императора. Когда Генрих летом 1121 года осадил город Майнц и туда поспешил с деблокирующим войском архиепископ Адальберт, то казалось, что начнется новая битва. Тогда с обеих сторон выступили князья с предложением созвать миротворческое собрание, которое состоялось осенью в Вюрцбурге. Здесь было принято решение о том, что конфликт с церковью должен быть урегулирован с советом и помощью князей, без нарушений прав империи. Каликст II теперь тоже был готов к переговорам и отправил в Германию кардиналов Ламберта Остийского, Саксона и Григория. Совещания, которые первоначально должны были состояться в Вюрцбурге, начались 8 сентября 1122 года на синоде в Вормсе, где приняли участие император, легаты и ряд духовных и светских князей. После долгих, временами трудных переговоров, пришли, наконец, к единому мнению, основанному на разделении светского и духовного права, как оно было теоретически обосновано в литературе того времени и уже нашло свое практическое воплощение во Франции и Англии. 23 сентября 1122 года Вормсский конкордат был торжественно объявлен перед большим стечением народа на равнине Лобвизен под Вормсом. Король отказался от инвеституры кольцом н посохом и признал за церквями империи право на каноническое избрание и свободное посвящение в сан. Однако выборы должны были проводиться в присутствии короля или его уполномоченных. Эта «presentia regis» («присутствие короля») хотя и не предоставляла ему определенных правовых полномочий, но фактически давала возможность королю проявить свое влияние. При наличии разногласий во время выборов король должен был согласно совету или мнению обладающих компетенцией митрополитов и замещающих их епископов отдать свой голос за находящегося в правах кандидата («sanior pars» — «более основательного»). Король должен был посредством скипетра наделить избранного кандидата регалиями. В Германии такая светская инвеститура должна была предшествовать церковному посвящению. В Бургундии же и в имперской части Италии император давал светскую инвеституру только в течение полугода после церковной. В Папской области конкордат не имел силы.
В то время когда королевская грамота в еще неоформленном подобающим образом оригинале была предоставлена церкви, Генриху V лично вручили лишь копию ответной папской грамоты. Вопрос о том, будут ли уступки папы действительны и после смерти этого императора, оставался открытым. В папском окружении было вскоре высказано мнение, что они предоставлялись только Генриху, но не его наследникам. На хофтаге в Бамберге конкордат был принят князьями. Латеранский синод, который состоялся в марте 1123 года в Риме, также подтвердил принятое в Вормсе соглашение, хотя папские уступки вызвали недовольство многих участников.
Вормсский конкордат, став своего рода компромиссом, положил конец пятидесятилетней борьбе. Мир был достигнут путем уступок с обеих сторон. Германская королевская власть отказалась от важных прав и вынуждена была принести в жертву традиционную систему имперской церкви. Но было бы неправильным только на этом основании считать Вормсский конкордат поражением королевской власти. Несмотря на отказ от инвеституры кольцом и посохом, королевской власти в Германии удалось в будущем сохранить свое влияние на замещение высших церковных должностей. Епископы и имперские аббаты в будущем являлись лишь вассалами короля, подобно прочим имперским князьям. Имперская церковь была полностью включена в систему ленного права. Иначе складывались отношения в имперской Италии и Бургундии. Здесь церкви фактически были выведены из-под влияния королевской власти. Наделение королем инвеститурой посредством регалий после завершенного посвящения в сан носило всего лишь формальный характер. Нельзя было, однако, недооценивать моральную победу церкви: хотя и не осуществились полностью требования Григория VII, было устранено господство германской королевской власти над папством, был, так сказать, перекрыт путь к церковному государству через епископства Северной Италии. Ушедшее в историю частное церковное право государства уступило новому каноническому праву церкви. Таким образом, папство могло с полным правом считать себя победителем. После заключения конкордата Каликст II повелел изобразить этот триумф на большой фреске в Латеране.
