Известие о ссоре с императором воодушевило итальянских врагов папы, во главе которых стоял уже упоминавшийся барон Ценций. В сочельник, когда Григорий отправился по обычаю совершать всенощное богослужение в церковь Св. Марии на окраине города, туда ворвалась толпа вооруженных людей. С папы сорвали ризы, нанесли удар по голове и за волосы вытащили из храма. Ценций запер Григория в своей башне и стал требовать от него богатых поместий и возвращения своего родового замка Св. Ангела. Но ни оскорбления, ни копья, направленные в грудь, не сломили презрительного спокойствия папы. Между тем по городу разнеслась весть об ужасном покушении: тишину ночи прорезал гул набата. На рассвете с криками горожане бросились на штурм баронской башни. Роли переменились — теперь уже Ценций припал к ногам Григория, моля о пощаде. Папа с величием заявил, что прощает свою личную обиду, но оскорбление святыни необходимо искупить покаянием и путешествием в Иерусалим. Освободив папу, римляне с громким ликованием понесли его на руках в ту же церковь Св. Марии, где он и закончил богослужение. Барон Ценций за это время успел скрыться, а все его имущество папа объявил церковной собственностью. Римляне увидели в происшедшем руку Божью — положение Григория в городе значительно укрепилось.
Между тем император собрал в Вормсе собор немецких епископов и с легкомысленной поспешностью приказал им отлучить своего противника от церкви. Собор ломбардских епископов, собравшийся вскоре в Пьяченце, подтвердил вормское постановление и объявил, что Ломбардия не будет признавать Григория папой. Но собравшийся в конце февраля большой и представительный собор епископов в Риме выразил Григорию полную поддержку. Епископы едва не растерзали пармского священника Роланда, который осмелился объявить волю императора о низложении папы. После этого Григорий предал анафеме самого Генриха.
Отлучение императора от церкви было потрясающим, неслыханным событием и произвело огромное впечатление на современников. Генрих узнал о нем в Утрехте, где он праздновал Пасху. В раздражении он решил противопоставить папскому отлучению формальный акт о низложении Григория, по его требованию собор епископов в Павии объявил папу низложенным. Но Генриху хотелось, чтобы низложение было с такой же торжественностью провозглашено в Германии. Он велел немецким епископам съехаться на Троицу в Вормс, не сомневаясь, что дело будет легко доведено до конца. Но тут его ждало первое большое разочарование: к назначенному сроку собралось так мало епископов, что не было никакой возможности открыть собор. Генрих встревожился, велел отложить собор до Петрова дня и рассудил перенести его в Майнц. Он сам разослал епископам приглашения, написанные уже в форме просьбы, а не приказа. Папские легаты тем временем тоже разъезжали по стране и употребляли все средства для того, чтобы склонить на сторону Григория немецких князей. Усилия их не остались бесплодными.
Могущественные герцоги Рудольф Швабский, Вельф Баварский и Бертольд Церингенский вошли в соглашение с архиепископом Зальцбургским и епископами Вюрцбургским и Пассаусским и уклонились от всяких сношений с королем. Еще большего успеха папская пропаганда добилась в Саксонии — тамошние жители взялись за оружие, прогнали королевских сборщиков налогов, разорили имения его приверженцев и овладели королевскими замками.
Генрих с ужасом увидел, что власть ускользает из его рук. Измена присяге была освещена папой, вменена в обязанность, и прежние приверженцы покидали его. В июне на съезде в Майнце не было никого из южногерманских и саксонских князей, а те, кто приехали, повинуясь зову короля, оказались в растерянности. Было ясно, что большинство их скоро тоже его покинет. Генрих собрал, сколько мог, солдат и пошел против саксонцев, но они поднялись на него так единодушно, что он принужден был бежать в Богемию. Тем временем князья и епископы папской партии съехались на съезд в Ульме и решили, что обстоятельства требуют избрания нового короля. Они разослали приглашения всем остальным князьям и епископам, предложив им 16 октября собраться в Трибуре «для восстановления мира в церкви и государстве». Большинство приглашенных приехало в Трибур, и авторитет этого съезда был гораздо выше тех, какие удавалось собирать королю. Семь дней депутаты спорили о том, каким способом спасти государство от погибели. Генрих, находившийся в это время в Оппенгейме, на другом берегу Рейна, совершенно оробел. Он видел, что его покидают даже те люди, которых он осыпал милостями и считал своими верными приверженцами Он совершенно пал духом, отбросил прежнее высокомерие и каждый день посылал в Трибур своих уполномоченных, обещая исправиться. После долгих дебатов было принято решение обратиться к папе с просьбой, чтобы в феврале следующего года он приехал в Аугсбург и лично разобрал дело Генриха; и потом, если в течение года с него не будет снято церковное проклятие, немедленно приступить к выборам нового государя. Генрих тем временем должен был жить в Шпейере как частное лицо, в совершенном удалении от государственных дел.
Генрих принял все эти условия, сложил с себя королевские регалии и поселился в Шпейре. Однако, опасаясь весьма вероятного торжества своих врагов на соборе в Аугсбурге, он решил не дожидаться папского суда, а самому ехать в Италию. В январе 1077 г. он отправился в путь в сопровождении только жены и одного немецкого дворянина, сохранившего ему верность. С ним не было ни денег, ни дорожных запасов, так что иногда императору приходилось просить милостыню. В это самое время папа ехал в Германию на Аугсбургский съезд для суда над Генрихом; но тут узнал о внезапном прибытии императора в Италию и свернул с дороги в укрепленный замок Каноссу, принадлежавший тосканской маркграфине Матильде.
Генрих также обратился к ней с просьбой о заступничестве перед папой. Григорий сначала отвергал все предложения императора и говорил, что дело должно решиться на предстоящем съезде. Наконец он уступил просьбам и согласился впустить Генриха в замок. В покаянной власянице босой император вошел в ворота окруженного тройной стеной замка. Ему дозволили пройти только во внутренний двор, но одному, без провожатых. Стояли жестокие морозы, но это не смягчило Григория. Он заставил Генриха трое суток подряд подолгу стоять у ворот замка, но каждый раз отказывался принимать его. Все обитатели Каноссы жалели несчастного. Маркграфиня Матильда обливалась слезами, и по ее ходатайству Генриха, наконец, впустили. На четвертый день вместе с несколькими другими отлученными императора ввели в зал, где находился папа, окруженный кардиналами и друзьями. Генрих вместе с другими бросился на колени и, проливая слезы, покаялся в грехах. Наконец Григорий поднял его, снял отлучение и допустил в церковь, где сам совершал литургию.
После этого Генрих со стыдом и досадою оставил Каноссу. Итальянцы тотчас заметили перемену в его настроении и в отношении к папе; старые приверженцы императорской власти, из которых многие до сих пор находились под церковным проклятьем, мало-помалу стали собираться к нему и побудили его провести зиму в Италии. Генрих, наделенный от природы дальновидностью, скоро заметил, что нигде основания папской власти не были так шатки, как в этой стране раздоров, и пришел к убеждению, что с помощью денег, обещаний и коварства здесь можно приобрести множество приверженцев и успешно бороться с папой. В душе его страх перед Григорием уступил место прежней решимости, и с этих пор началась борьба, которую он вел мечом и словом до самой смерти.
Тем временем враждебные Генриху князья обвинили его в нарушении данной клятвы. В марте 1077 г они собрались на съезде в Форшгейме, объявили Генриха низложенным и выбрали императором герцога Швабского Рудольфа. Но не все прежние противники Генриха поддержали этот выбор. Верность старому императору сохранили многие города, а также духовенство, опасавшееся властолюбия Григория. Немецкое национальное чувство вообще было оскорблено тем унижением, которому подвергся в Каноссе их государь. К тому же отречение с Генриха было снято, и он мог требовать от вассалов прежней покорности. Весной он вернулся в Германию.
Отовсюду к Генриху съезжались епископы и князья, уверяя его в своей преданности.
Началась упорная война с мятежниками. Григорий во время германских междоусобий старался сохранять нейтралитет, хотя всей душой сочувствовал Рудольфу. В 1080 г. произошло ожесточенное сражение в Тюрингии, близ деревни Флархгейм.
Общий исход его был неудачен для императора, и противники его торжествовали победу. Узнав о флархгеймской победе, Григорий отбросил всякие колебания и объявил, что считает Рудольфа единственным законным правителем Германии. В Риме как раз проходил церковный собор, и на одном из заседаний папа вновь объявил Генриха отлученным от церкви и лишенным королевского сана.
