На полях «Арифметики» Диофанта, рядом с задачей 8, Ферма оставил такое замечание: «Cubet autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos, et generaliter nullam in infinitum ultra quadratum potestatem in duos eiusdem nominis fas est dividere» (Невозможно для куба быть записанным в виде суммы двух кубов, или для четвертой степени быть записанной в виде суммы двух четвертых степеней, или, в общем, для любого числа, которое есть степень больше двух, быть записанной в виде суммы двух таких же степеней).

Свое знаменитое открытие Ферма совершил в самом начале своей математической карьеры — около 1637 года. Примерно через тридцать лет, исполняя свои судебные обязанности в городе Кастре, Ферма тяжело заболел. 9 января 1665 года он подписал свой последний приговор и тремя днями позднее умер. Открытиям Ферма, все еще находившегося в изоляции от парижской математической школы и отнюдь не добрым словом поминаемого его разочарованными коллегами, грозило полное забвение. К счастью, старший сын Ферма, Клеман-Самюэль, сознававший все значение любимого увлечения отца, пришел к заключению, что его открытия не должны быть потеряны для всего мира. Всем, что мы знаем о замечательных открытиях Ферма в теории чисел, мы обязаны его сыну, и если бы не Клеман-Самюэль, загадка, известная под названием Великой теоремы Ферма, умерла бы вместе во своим создателем.

Пять лет Клеман-Самюэль собирал отцовские заметки и письма, изучал неразборчивые надписи на полях «Арифметики». Заметка на полях с формулировкой Великой теоремы Ферма была лишь одной из вдохновенных мыслей, начертанных на полях этой книги. Клеман-Самюэль взял на себя тяжкий труд опубликовать все эти заметки в специальном издании «Арифметики». В 1670 году он издал в Тулузе книгу под названием «Диофантова Арифметика, содержащая примечания П. де Ферма». В нее наряду с оригинальным текстом на древнегреческом языке и латинском переводом Баше вошли 48 примечаний, сделанных Ферма. Одно из примечаний и было тем, которое стало впоследствии известно под названием Великой теоремы Ферма.

Великая теорема Ферма — задача невероятно трудная, и тем не менее ее можно сформулировать так, что она станет понятной даже школьнику. Ни в физике, ни в химии, ни в биологии нет ни одной проблемы, которая формулировалась бы так просто и определенно и оставалась нерешенной так долго. В своей книге «Великая проблема» Э. Т. Белл высказал предположение, что возможно, наша цивилизация подойдет к концу прежде, чем удастся доказать Великую теорему Ферма. Доказательство Великой теоремы Ферма стало самым ценным призом в теории чисел, и поэтому не удивительно, что поиски его привели к некоторым наиболее захватывающим эпизодам в истории математики. В эти поиски оказались вовлеченными величайшие умы на нашей планеты, за доказательство назначались огромные премии. Из-за Великой теоремы Ферма люди дрались на дуэли, а некоторые, отчаявшись найти доказательство, даже кончали с собой.

Первый серьезный прорыв

Леонард Эйлер родился в Базеле в 1705 году в семье кальвинистского пастора Пауля Эйлера. Хотя юный Эйлер проявил недюжинный математический талант, его отец решил, что сын должен изучать теологию, и готовил ему церковную карьеру. Леонард повиновался отцовской воле и стал изучать теологию и древнееврейский язык в Базельском университете.

Впервые столкнувшись с Великой теоремой Ферма, Эйлер, понадеялся на то, что ему удастся найти доказательство, если он будет придерживаться такой стратегии: найти решения для какого-нибудь частного случая, а затем обобщить это решение, распространив его на все остальные. Напомним, что теорема Ферма утверждает следующее: уравнение

xn + yn = zn, где n — любое целое число большее 2,

не допускает решения в целых числах.

Это уравнение в действительности представляет собой бесконечную систему уравнений

x3 + y3 = z3, x4 + y4 = z4, x5 + y5 = z5, x6 + y6 = z6, x7 + y7 = z7, . . . . . . . . . . .

Эйлер попытался выяснить, нельзя ли доказать, что одно из уравнений не допускает решений в целых числах, а затем экстраполировать полученный результат на все остальные уравнения (точно так же, как он доказал свою формулу для всех графов).

Первый шаг к осуществлению задуманного Эйлер совершил, когда обнаружил ключ к доказательству в кратких записях на полях «Арифметики» Диофанта. Хотя Ферма не оставил развернутого доказательства Великой теоремы, он в другом месте того же экземпляра «Арифметики» написал в зашифрованном виде доказательство для случая n=4, включив его в решение совершенно другой задачи. Это были самые подробные вычисления, которые Ферма когда-либо доверил бумаге, но всё же детали всё ещё были обрывочны и расплывчаты, а в заключение доказательства Ферма ссылается на то, что недостаток времени и места не позволяют ему дать более полное объяснение. Несмотря на отсутствие многих важных деталей в беглых заметках Ферма, в них отчетливо просматривался один из способов доказательства от противного, известный под названием метода бесконечного спуска.

Чтобы доказать, что уравнение x4 + y4 = z4 не допускает решения в целых числах, Ферма начал с предположения о существовании гипотетического решения в целых числах

x = X1, y = Y1, z = Z1.

При изучении свойств чисел (X1, Y1, Z1) Ферма показал, что если бы такое гипотетическое решение действительно существовало, то существовало бы меньшее решение (X2, Y2, Z2). Рассматривая это новое решение, Ферма смог показать, что если бы оно существовало, то существовало бы еще меньшее решение (X3, Y3, Z3) и т.д.

Эйлер попытался воспользоваться методом бесконечного спуска в качестве исходного пункта при построении общего доказательства для всех других степеней в уравнении Ферма. Он хотел получить доказательство для всех n вплоть до бесконечности, но прежде всего он хотел «опуститься на одну ступень» и получить доказательство при n=3. В письме к прусскому математику Христиану Гольдбаху в августе 1753 года Эйлер сообщил, что ему удалось приспособить метод бесконечного спуска и успешно доказать Великую теорему Ферма для случая n=3. Так через сто лет после смерти Ферма впервые удалось сделать первый шаг на пути к решению его проблемы.

И до Эйлера некоторые математики уже пытались приспособить метод бесконечного спуска Ферма для решения уравнения Ферма в целых числах при n, отличных от 4, но всякий раз попытка распространить метод приводила к каким-нибудь проблемам в логике. И только Эйлер показал, что, используя число i, можно заткнуть все дыры в доказательстве и заставить метод бесконечного спуска работать при n=3.

Это было грандиозное достижение, но повторить успех при других значениях n Эйлеру не удалось. К сожалению, все попытки применить те же рассуждения к другим значениям вплоть до бесконечности закончились провалом. И математик, решивший больше задач, чем кто-либо другой за всю историю, был вынужден признать поражение — Великая теорема Ферма оставалась неприступной. Единственным утешением для Эйлера было то, что он осуществил первый серьезный прорыв в «круговой обороне» труднейшей математической проблемы в мире.