Видео с Хейли разобрали на кусочки в поисках следов подделки и цифровых манипуляций. Цитировались анонимные одноклассники, называвшие Хейли отъявленной лгуньей, обманщицей, истеричкой.
Фрагменты видео вперемешку с «разоблачениями» набирали популярность. Кто-то при помощи программ заставлял Хейли изрыгать проклятия в новых клипах, цитировать Гитлера и Сталина, хихикая и маша рукой на камеру.
Я удалила все свои аккаунты и сидела дома, не находя сил, чтобы выбраться из постели. Родители предоставили меня самой себе; они сражались в собственных битвах.
За десятилетия цифровой эпохи искусство троллинга эволюционировало и заполнило все ниши, открывая новые горизонты технологий и дозволенного.
Издалека я наблюдала, как тролли роятся вокруг семьи моего брата с хаотичной точностью, с бесцельной злобой, со злобным весельем.
Конспиративные теории сливались с откровенными выдумками — и превращались в мемы, которые выворачивали сочувствие наизнанку, абстрагировали боль в приколы.
Мамочка, на пляже в аду так тепло!
Обожаю эти новые дырки во мне!
Поисковые запросы с именем Хейли начали приводить на порносайты. Производители контента — большинство которых являлось рассадниками ИИ-ботов — ответили генерацией фильмов и ВР-погружений с моей племянницей. Алгоритмы использовали находящуюся в публичном доступе видеозапись с Хейли и умело вставляли ее лицо, тело и голос в фетиш-видео.
СМИ отреагировали на такое развитие событий возмущением — быть может, даже искренним. Это привело к росту числа запросов — и генерации нового контента…
Мой долг и привычка как исследователя — оставаться в стороне, наблюдать и изучать явления с клинической отстраненностью, быть может, даже увлечением. Считать троллей политически мотивированными — упрощение, по крайней мере в том смысле, который обычно вкладывают в этот термин. Хотя абсолютисты Второй поправки[53] способствовали распространению мемов, у зачинщиков в большинстве своем не было никаких политических убеждений. Анархистские сайты вроде 8taku, duang-duang и alt-web, появившиеся после буйного деплатформинга прошлого десятилетия, служат домом этим жукам-навозникам Интернета, иду нашего коллективного онлайн-подсознания. Получая удовольствие от нарушения табу и законов, тролли не имеют общей цели, помимо того, чтобы произносить непроизносимое, издеваться над искренним, играть с тем, что другие считают запретным. Упиваясь возмутительным и грязным, они одновременно оскверняют и определяют технологические связи в обществе.
Но будучи человеком, я не могла смотреть на то, что они творили с образом Хейли. Я связалась со своим чужим братом и его семьей.
«Позвольте мне помочь».
Хотя машинное обучение дало нам возможность с неплохой точностью предсказывать выбор жертвы — тролли не столь внезапны, как хотят казаться, — мой работодатель и другие крупные социальные ресурсы прекрасно понимают, что нужно шагать по тонкой границе между цензурой пользовательского контента и снижением «пользовательской активности», той самой метрики, которая определяет курс акций, а значит, и все решения. Агрессивная модерация, особенно на основе пользовательских отчетов и человеческих суждений, — процесс, в котором жульничают обе стороны, и нет такой компании, которую не обвиняли бы в цензуре. В конечном итоге эти компании просто разводят руками и выбрасывают свои правоприменительные руководства. У них нет ни умений, ни желания становиться поборниками истины и благопристойности во всем обществе. Разве могут они решить проблему, которую не в состоянии решить даже демократическое государство?
Со временем большинство компаний пришли к единому решению. Вместо того чтобы сосредотачиваться на оценке поведения ораторов, они начали создавать ресурсы, позволяющие слушателям защитить себя. Разработка алгоритма, способного отличить легитимную (пусть и эмоциональную) политическую речь от организованного оскорбления всех сразу, — непростая задачка; то, что одни превозносят как правду, сказанную в лицо властям, другие часто считают выходящим за всякие рамки. Намного проще построить и обучить индивидуально настроенные нейронные сети, отсекающие контент, который не хочет видеть
