Произнося последнюю фразу, он внимательно посмотрел на меня. Это было обвинительным заключением – я был тусклой лампочкой. Я хотел что-то сказать, но мысли разбежались.
– Мы обеспечили открытый доступ к нашей лучшей работе и подали пример остальным. И это сработало. Сотни, если не тысячи лабораторий по всему миру стали решать бессчетные задачи совместными усилиями. Одним из результатов этого стали Адамы и Евы, А-и-Е. Мы здесь все очень гордимся, что в них была вложена такая большая часть нашей работы. Это прекрасные, прекрасные машины. Но… как всегда, «но». Мы много узнали о мозге, пытаясь имитировать его. Но в понимании разума наука до сих пор бродит вокруг да около. Одного-единственного разума или разумов en masse. Разум в науке – это вроде дефиле на показе мод. Фрейд, бихевиоризм, когнитивная психология. Отдельные прозрения. Никаких глубоких или последовательных знаний, которые заслужили бы доброе имя психоанализу или экономике.
Я заерзал и хотел было добавить к этой паре антропологию, чтобы показать некоторую независимость мысли, но Тьюринг продолжил:
– И вот, не зная толком о разуме, вы хотите ввести искусственный разум в общественную жизнь. Машинное обучение не может продвинуть вас дальше. Вам нужно задать этому разуму какие-то правила, по которым он должен жить. Что насчет запрета лгать? Согласно Ветхому Завету, притчам Соломоновым, я думаю, это кощунство перед лицом Бога. Но общественная жизнь кишит безобидной или даже полезной неправдой. Как мы отделим одно от другого? Кто напишет алгоритм для маленькой белой лжи, которая избавит вашего друга от стыда? Или лжи, способной отправить в тюрьму насильника, который иначе гулял бы на свободе? Мы пока еще не знаем, как научить машины лгать. А что говорить о мести? В отдельных случаях, если вы любите такого мстителя, для вас она допустима. Но только не для вашего Адама.
Тьюринг замолчал и опять отвел от меня взгляд. По его профилю, но в основном по тону, я почувствовал перемену в его настрое ко мне, и мой пульс тяжело застучал, отдаваясь в ушах. Он спокойно продолжил:
– Я надеюсь, придет такой день, когда то, что вы сделали с Адамом молотком, станут рассматривать как серьезное преступление. Вы это сделали потому, что купили его? Чем вы оправдывались?
Он смотрел на меня, ожидая ответа. Но я не собирался ему отвечать. А если бы ответил, мне пришлось бы солгать. По мере того как в Тьюринге росла злоба, его голос становился тише. Мне стало очень неуютно. Все, что я мог, – выдержать его взгляд.
– Вы ведь не просто разбили свою игрушку, как испорченный ребенок. Вы не просто отбросили важный аргумент в пользу верховенства права. Вы пытались уничтожить жизнь. Он был живым. У него было сознание. Как оно образуется – через влажные нейроны, микропроцессоры, сети ДНК, – не имеет значения. Думаете, мы одни наделены этим особым даром? Спросите любого владельца собаки. Это был хороший разум, мистер Фрэнд, лучше вашего или моего, подозреваю. Это было сознательное бытие, а вы сделали все возможное, чтобы его уничтожить. Я, пожалуй, признаюсь, что презираю вас за это. Если бы это зависело от меня…
В этот момент зазвонил телефон на столе. Тьюринг снял трубку, вслушался, нахмурился.
– Томас… Да. – Он провел ладонью по губам и продолжил слушать. – Что ж, я тебя предупреждал…
Он отвлекся от телефона, взглянул на меня или сквозь меня и взмахом руки приказал мне оставить его одного.
– Я должен ответить на звонок.
Я вышел в коридор и прошел подальше, чтобы не слышать разговора. Меня покачивало и мутило. Иначе говоря, меня мучила вина. Он увлек меня своей личной историей, и мое самомнение взыграло. Но это была всего лишь прелюдия. Как только я размяк, он проклял мой материализм. Это меня пронзило. Точно лезвие. И я сам заточил его своим пониманием. Адам обладал сознанием. Я долгое время склонялся к такому взгляду, а потом для своего удобства отбросил его и сделал дело. Я должен был сказать Тьюрингу, как мы тосковали по Адаму, как Миранда плакала. Я забыл упомянуть его последнее стихотворение. Как близко мы наклонились к нему, чтобы расслышать. Потом, оставшись одни, мы вспомнили его и записали.
