Пауль Коэн, двадцатидевятилетний математик из Стэнфордского университета, разработал метод, позволяющий проверять разрешимость того или иного вопроса. Метод Коэна работает в некоторых весьма специальных случаях, но тем не менее Коэн был первым, кому удалось обнаружить конкретные неразрешимые вопросы. Совершив это открытие, Коэн немедленно вылетел в Принстон. Он хотел, чтобы правильность его работы проверил сам Гёдель. К тому времени Гёдель был тяжело болен (диагноз медиков гласил: паранойя). Он лишь слегка приоткрыл дверь, вырвал из рук Коэна бумаги и захлопнул дверь. Через два дня Коэн получил приглашение в дом Гёделя на чай — знак того, что маэстро скрепил доказательство печатью своего авторитета. Особый драматизм ситуации придало то обстоятельство, что некоторые из неразрешимых вопросов занимают в математике центральное место. По иронии судьбы, Коэн доказал неразрешимость одной из двадцати трех проблем Гильберта — гипотезы континуума.
Работа Гёделя, дополненная неразрешимыми проблемами Коэна, стала тревожным посланием всем математикам, профессионалам и любителям, которые продолжали свои попытки доказать Великую теорему Ферма. А что, если Великая теорема Ферма неразрешима?! А вдруг Пьер де Ферма заблуждался, когда утверждал, что располагает доказательством? Если так, то доказательство Великой теоремы Ферма может оказаться не просто трудным, а невозможным. Если Великая теорема Ферма неразрешима, то математики столетиями пытались найти доказательство, которое не существует.
Интересно заметить, что если бы Великая теорема Ферма оказалась неразрешимой, то отсюда следовало бы, что она истинна. Причина заключается в следующем. Великая теорема Ферма утверждает, что уравнение
x>n + y>n = z>n
при n, бóльших 2, не имеет решений в целых числах. Если бы Великая теорема Ферма оказалась ложной, то доказать ее было бы можно, предъявив решение (контрпример). Это означало бы, что Великая теорема Ферма разрешима. Итак, если бы теорема была ложной, то это противоречило бы ее неразрешимости. Но если бы Великая теорема Ферма была истинной, то столь определенный способ ее доказательства не обязательно существовал бы, т. е. она могла бы быть неразрешимой. Следовательно, может оказаться, что Великая теорема Ферма истинна, но не существует способа доказать ее.
Заметка на полях «Арифметики» Диофанта, сделанная рукой Пьера де Ферма, породила одну из самых трудных головоломок в истории математики. Несмотря на триста лет блистательных провалов и предположение Гёделя о том, что возможно, охота идет за несуществующим доказательством, проблема Ферма по-прежнему неудержимо привлекала некоторых математиков. Великая теорема Ферма была математической сиреной, манившей гениев только для того, чтобы вдребезги разбить их надежды. Всякий математик, решивший заняться Великой теоремой Ферма, рисковал напрасно потратить свои наиболее активные годы. Но тот, кому удалось бы совершить решающий прорыв, вошел бы в историю, как человек, нашедший решение самой трудной задачи в мире.
Великая теорема Ферма захватила помыслы поколений математиков по двум причинам. Во-первых, ими двигало неудержимое желание продемонстрировать свое превосходство. Великая теорема Ферма была неоспоримым критерием, и всякий, кто сумел бы ее доказать, добился бы успеха там, где потерпели неудачу Коши, Эйлер, Куммер и многие другие математики. Подобно тому, как сам Ферма получал величайшее удовольствие от решения задач, ставивших в тупик его современников, тот, кому удалось бы найти доказательство Великой теоремы Ферма мог бы порадоваться тому, что сумел решить проблему, которая несколько веков возвышалась неприступной крепостью перед математическим сообществом. Во-вторых, каждый, кому удалось бы ответить на вызов Ферма, мог бы испытать чувство неслыханного удовлетворения от того, что сумел решить труднейшую головоломку. Восторг, получаемый от решения сложнейшей проблемы теории чисел, доступной только пониманию посвященных, мало чем отличается от простой радости от решения тривиальных головоломок Сэма Лойда. Один математик как-то поведал мне, что удовольствие, получаемое им от решения математических проблем, имеет много общего с удовольствием, получаемым от решения кроссвордов. Заполнение последних пустых клеточек особенно трудного кроссворда всегда приносит удовлетворение — но какую же радость должен испытывать тот, кто после многих лет безуспешных попыток решить головоломку, которую до него не удавалось решить никому в мире, все-таки сумел найти решение.
