Целью Генриха было добиться возведения этого антипапы на престол в Риме. Однако прежде он попытался решить проблемы в Германии. 15 октября 1080 года на реке Эльстер произошло его столкновение с антикоролем и Оттоном Нортхеймским. Правда, король потерпел поражение, но Рудольф Швабский потерял в бою правую руку и на следующий день умер. Гибель антикороля, потерявшего именно ту руку, которой он когда-то принес королю клятву верности, была воспринята как Божья кара. В лагере немецкой оппозиции сначала не могли прийти к единому мнению относительно нового кандидата, поскольку Оттон Нортхеймский столкнулся с сопротивлением южнонемецких князей. Лишь 6 августа 1081 года был избран новый антикороль. Саксами и швабами был выбран малоизвестный незначительный князь, граф Герман фон Зальм, но он не достиг какого-либо влияния.
Между тем весной 1081 года Генрих с относительно небольшим войском отправился в Италию. В Северной и Центральной Италии самой важной опорой папы была маркграфиня Матильда. Еще до великопостного синода 1080 года (предположительно в 1079 году) она передала в дар римской церкви весь свой аллод в Италии и Лотарингии и получила назад от папы в качестве лена с правом свободного распоряжения. Затем она отправила для участия в военных действиях на стороне курии свои отряды, которые уже осенью 1080 года были разбиты на мантуанской территории ломбардскими союзниками Генриха IV. Ускоренным маршем Генрих сумел продвинуться к Риму, однако ему не удалось завоевать город. В следующем году (1082) из Тусции он повторил попытку, но вновь безуспешно. Лишь в начале 1083 года ему удалось захватить город Льва>{36}. В ходе переговоров с римлянами было назначено проведение нового синода, на котором должен был решиться спор между Генрихом и папой, но из-за несогласия Григория он не состоялся.
В этой ситуации папа мог надеяться только на помощь норманнов. В 1078 году, незадолго до смерти Ричарда Капуанского, с ним было заключено мирное соглашение. Через два года (1080) Григорию удалось достичь перемирия и с Робертом Гвискаром. Во время встречи в Чепрано Роберт признал папу своим сеньором. Взамен Григорий должен был пойти на незначительные уступки норманнскому князю и временно позволить ему находиться в незаконно завоеванных им областях. Однако помощь его вассала пока задерживалась. Завоевательная политика Роберта в тот момент была направлена против Византийской империи. Летом 1081 года он с флотом переправился через Адриатическое море и оккупировал Корфу и западное побережье Греции. Однако восстание норманнских баронов в Апулии вынудило его вернуться в Италию. Кроме того, император Византии Алексей I вступил в переговоры с Генрихом IV и побудил германского короля предпринять в начале 1084 года заведомо безуспешный поход в Апулию. Только когда эта вдвойне опасная для Роберта Гвискара ситуация разрешилась, норманнский герцог отважился в мае 1084 года поспешить с более чем тридцатитысячным, по утверждению источников, войском на помощь своему сеньору-папе.
Тем временем положение Григория в Риме продолжало ухудшаться. Его противодействие плану проведения собора вызвало в начале 1084 года всеобщее движение заговорщиков в Риме, к которому присоединились даже 13 кардиналов. Теперь Генрих смог задержать свое вступление в Рим и организовать избрание Виберта папой с соблюдением всех формальностей. Новый папа принял имя Климент III и на пасху 1084 года (31 марта) короновал Генриха IV и его супругу Берту императорской короной в соборе св. Петра. Казалось, император достиг исполнения своих желаний. Только хорошо укрепленный замок Св. Ангела представлял собой последнее прибежище Григория в городе. Впрочем, приближение шедшего на помощь норманнского войска вынудило Генриха отказаться от Рима и летом вернуться в Германию. Но и положение Григория в Риме, после того как город был жесточайшим образом разграблен норманнами, стало неустойчивым. Вместе с норманнами он покинул Рим и отправился в Салерно. Здесь он провел последний год своего понтификата, тщетно стремясь вернуться в Рим, где снова смог добиться признания Климент III. 25 мая 1085 года Григорий VII умер в изгнании. Его последние слова «Я любил справедливость и ненавидел безбожье, поэтому я умираю в изгнании» надежно засвидетельствованы источниками. В 1606 году он был канонизирован церковью.