Конечно, даже один пример имеющейся у нас программы, которую никогда не сможет имитировать классический компьютер, разрушит миф ума как машины. Математик Роджер Пенроуз доказывает, что компьютероподобного алгоритмического рассуждения недостаточно для открытия математических теорем и законов. (Алгоритм представляет собой последовательную процедуру решения проблемы: строго логический подход, основанный на правилах.) Поэтому, спрашивает Пенроуз, откуда же берется математика, если мы действуем как компьютеры? «Математическая истина — не что-то устанавливаемое нами просто с помощью алгоритма. Я также полагаю, что решающим элементом в нашем постижении математической истины является сознание. Мы должны "видеть" истинность математического доказательства, чтобы быть убежденными в его правильности. Это "видение" составляет самую суть сознания. Оно должно присутствовать всегда, когда мы непосредственно воспринимаем математическую истину». Иными словами, наше сознание должно существовать прежде нашей алгоритмической компьютерной способности.
Еще более сильный довод против идеи ума как машины выдвинул Нобелевский лауреат, физик Ричард Фейнман. Классический компьютер — замечает Фейнман — никогда не сможет имитировать нелокальность (это специальный термин, означающий передачу информации или влияния без локальных сигналов; такая передача представляет собой действие на расстоянии и происходит мгновенно). Поэтому, если у людей существует нелокальная переработка информации, то это одна из наших неалгоритмических программ, которую никогда не сможет имитировать классический компьютер.
Есть ли у нас нелокальная переработка информации? Очень убедительным доводом в пользу нелокальности может быть наша духовность. Еще один спорный довод в пользу нелокальности — это заявления о паранормальном опыте. На протяжении веков люди утверждали, что обладают способностью к телепатии — передаче информации от ума к уму без локальных сигналов, и теперь для этого, как будто, есть кое-какие научные доказательства.
Сам Алан Тьюринг понимал, что телепатия представляет собой один надежный способ отличить человека от вычислительной машины в тесте Тьюринга: «Проведем имитационный эксперимент, используя в качестве свидетеля человека, обладающего телепатическими способностями, и машину. Эксперт может задавать, например, такие вопросы: "Какой масти карта, которая у меня в руке?" Человек, с помощью телепатии или ясновидения, правильно угадывает 130 из 400 карт. Машина может давать только случайные догадки, и, возможно, наберет 104 правильных ответа, и, таким образом, эксперт сделает правильное определение».
Экстрасенсорное восприятие (ЭСВ), которое, несомненно, остается спорным — это лишь один довод против могущества классического компьютера. Еще одной важной способностью человеческого ума, по-видимому, недостижимой для компьютера, является творчество. Если творчество включает в себя разрывность, резкие отходы от прошлых паттернов мышления, то способность компьютера к творчеству, безусловно, сомнительна, поскольку классический компьютер оперирует с непрерывностью.
Однако, в конечном счете, все дело в сознании. Если специалисты по машинному уму смогут создать классический компьютер, который будет сознательным в том же смысле, в каком сознательны мы с вами, дело примет другой оборот, несмотря на все перечисленные выше второстепенные соображения. Смогут ли они? Как знать. Предположим, что мы снабдили машину Тьюринга несметным количеством программ, совершенно имитирующих наше поведение; стала бы тогда машина сознательной? Безусловно, ее поведение демонстрировало бы все сложности человеческого ума, и, как машина Тьюринга, она была бы безупречной имитацией человека (за исключением немногих таких специфически человеческих характеристик, как ЭСВ и способность к математическому творчеству, которые энтузиасты машинного ума в любом случае считают сомнительными), но была бы она подлинно сознательной?
Во время обучения в колледже в 1950-е гг. я познакомился с идеей сознательного компьютера, читая научно-фантастический роман Роберта Ханлайна «Луна — строгая хозяйка». Ханлайн передает представление, что сознание компьютера зависит от его размера и сложности: как только машина в романе переходит предел сложности и размера, она становится сознательной. Судя по всему, такая точка зрения широко распространена среди исследователей искусственного интеллекта.
