Леди Байрон предложили прочесть этот «длинный и подробный рассказ» об их браке и разводе с правом обнаружить любые искажения фактов и пометить те места, которые не соответствуют истине. Его рассказ обращен к грядущим поколениям, и ни он, ни она не восстанут из праха, дабы что-нибудь подтвердить или опровергнуть. Аннабелла отказалась от чтения и, после консультации со своим поверенным, посчитала такие мемуары совершенно не имеющими оправдания; она никогда не даст согласие на их публикацию.
Байрон написал еще довольно много страниц и переслал их Муру, который, оказавшись в «финансовых затруднениях», с разрешения Байрона, продал рукопись Меррею за две тысячи фунтов, оговорив себе право выкупить ее обратно.
В мае 1824 года, когда тело Байрона еще не покинуло порт Занта, начались инициированные Хобхаузом и Мерреем козни вокруг мемуаров. Вначале Августа была в смятении, но вскоре под влиянием Роберта Уилмот-Хортона, заклятого врага Байрона, капитулировала. Леди Байрон, заявив о своей непричастности к этому делу, уполномочила полковника Дойла действовать от своего имени.
Четверо мужчин собрались в гостиной Меррея на Албемарль-стрит в Лондоне вместе с Муром и поэтом Генри Латтреллом, которого Мур привел как союзника, хотя тот пребывал в нерешительности. Мур одолжил две тысячи фунтов в издательстве «Лонгмен» и приехал с намерением выкупить мемуары у Меррея, который, помимо процентов, потребовал и дополнительных выплат. У всех друзей Байрона Мур вызывал ненависть, его высмеивали как сына дублинского бакалейщика, свалившегося на их голову «с болот Клонтарфа», по соседству с которым, насколько мне известно, нет болот. Августа называла его «этот отвратительный человечек». И все же Мур оказался единственным, кому Байрон в письме незадолго до смерти завещал «последние остатки привязанности своего сердца».
Мур спрашивал мнение Сэмюэла Роджерса, Генри Брума, лорда Лансдауна, и все они согласились с ним, что полного уничтожения мемуаров Байрона не требуется. Отправная точка в его аргументации заключалась в том, что несправедливо просто осудить это сочинение как нечто вредоносное и что сжечь его — значит поставить на него клеймо, которого оно не заслуживает. Меррей нанес ответный удар, сказав, что посылал мемуары мистеру Гиффорду из «Квотерли ревью» и тот сказал, что «они годятся только для борделя». Все аргументы Мура были тщетны, так как Хобхауз в союзе с Мерреем стояли за «полное уничтожение всей вещи». В яростном споре, который воспоследовал, Мур и Хобхауз чуть не дошли до драки, так как Хобхауз утверждал, что в сентябре 1822 года, во время его встречи с Байроном в Италии, тот выражал сожаление, что подарил мемуары, и только деликатность и нежелание поранить чувства Мура удержали его от просьбы вернуть ему мемуары.
Несколько неожиданно Уилмот-Хортон предложил оригинальную рукопись и одну копию опечатать и передать на хранение какому-нибудь банкиру, что Мур горячо поддержал, но его мольбы были обращены к глухим.
Сожжение мемуаров остается актом коллективного вандализма, за который ответственны все: Мур из-за проявленной безответственности при продаже рукописи; Хобхауз — прежде всего он — за фальшивое чистосердечие в стремлении якобы защитить репутацию Байрона; Меррей за неприкрытое фарисейство, когда он называл себя «торговцем, намеревающимся сохранить свою репутацию»; Августа и Аннабелла, молчаливые заговорщицы; и два «палача» — полковник Дойл и Уилмот-Хортон, которые отрывали страницы от переплета и бросали их в огонь. Меррей подозвал своего шестнадцатилетнего сына и наследника, чтобы тот стал свидетелем исторического момента. Хобхауз позднее утверждал, что ему было предложено бросить в огонь несколько страниц, но он отказался от этого «благочестивого деяния», хотя всецело одобрял его. Огромные листы, исписанные нитевидным почерком Байрона, которому обучил его мистер Данкен за семь шиллингов, получаемых от миссис Байрон, плясали в свирепом вихре пламени, прежде чем превратиться в золу.
Корабль «Флорида» с останками Байрона прибыл в Англию в июле 1824 года. На борту были полковник Стенхоуп, доктор Бруно, Тита, Лега Замбелли, Флетчер, Бенжамин — чернокожий грум и две собаки Байрона, а также дорожные сундуки с книгами, оружием, одеждой, его постель и запас шампанского. В порту гробовщик вскрыл выложенный жестью временный гроб и переместил тело в новый свинцовый, над которым развевался корабельный флаг. Хобхаузу не хватило духу взглянуть на тело своего друга, хотя позднее он это сделал, когда Байрон лежал в передней зале сэра Эдварда Натчбулла на Грейт-Джордж-стрит, которую Хобхауз снял, чтобы толпы людей смогли отдать ему последний долг. Хобхауз нашел Байрона изменившимся почти до неузнаваемости, тогда как Августа увидела в его лице «насмешливое спокойствие».