Занимаясь тайнами простых чисел Ферма сформулировал много положений о представимости чисел квадратичными формами. Например, он обнаружил следующие удивительно простые и глубокие закономерности:

1. Формой x2+y2 представимы все простые числа, которые лежат в прогрессии 4n+1 , причем каждое из них представимо этой формой единственным образом. Ни одно простое число из прогрессии 4n+3 не представимо суммою двух квадратов.

2. Формой x2+2y2 представимы все простые числа, лежащие в прогрессиях 8n+1 и 8n+3. Ни одно простое число из прогрессий 8n+5 и 8n+7 не представимо в виде x2+2y2 .

3. Формой x2-2y2 представимы все простые числа, лежащие в прогрессиях 8n+1 и 8n+7. Ни одно простое число из прогрессий 8n+5 и 8n+3 не представимо в виде x2-2y2 .

4. Формами x2+3y2 и x2+xy+y2 представимы все простые числа, лежащие в прогрессии 3n+1. Ни одно простое число из прогрессии 3n+2 не представимо указанными формами.

Ферма оставил крайне мало пояснений, дающих возможность установить, как ему удалось получить эти в высшей степени общие результаты. Лишь перед смертью в письме к де Каркави Ферма частично обосновал положение (1) с помощью своего метода бесконечного спуска. Можно лишь пожалеть современников Ферма, которые регулярно получали вариации на тему утверждений (1) - (4) в качестве задач. Первые полные доказательства этих утверждений удалось получить лишь Эйлеру. Попутно он сформулировал очень важную теорему о делимости - так называемой квадратичный закон взаимности, доказательство которого дал Гаусс. Через увлечение квадратичными формами прошли Лагранж, Лежандр, Чебышев, а в наше век - Вейль, Артин и многие другие блестящие математики. Как всегда идеи Ферма оказались чрезвычайно плодотворны в смысле построения далеко идущих обобщений и формирования новых понятий. Добрая половина терминов современной абстрактной алгебры возникла из попыток доказать утверждения Ферма.

Один из важнейших результатов Ферма получил специальное название “Малая теорема Ферма”. Это фундаментальный факт теории делимости на простые числа: для любого простого p и любого a³1, которое не делится на p, разность ap -1-1 делится на p. Например, пусть a=5,

p=2, 3, 7, 11. Тогда 52-1-1=2×2, 53-1-1=3×8, 57-1-1=7×2232, 511-1-1=11×8878 . Ферма высказал эту теорему в письме Френиклю де Бесси в 1640 г. с обычным для него замечанием: “ . я бы Вам прислал доказательство, если бы не опасался быть слишком длинным”.

Первое доказательство “Малой теоремы Ферма” дал Лейбниц. Затем Эйлер, начиная с 1736 г., публикует сразу три различных доказательства, которые показывают, что Ферма вполне мог уметь доказывать свою теорему. Потомки часто искали элементарные доказательства утверждений Ферма, пытаясь понять насколько лукавил великий тулузец. Проблемы Ферма волновали Эйлера на протяжении всей жизни. В 1760 г. он получил существенное обобщение его “Малой теоремы”: пусть j(m) - число натуральных чисел, не превосходящих m и взаимно простых с m . Тогда для любого m и любого a³1, взаимно простого с m, разность aj(m)-1 делится на m. Эту терему Эйлер скромно опубликовал в качестве четвертого доказательства “Малой теоремы Ферма”

Наконец, мы переходим к изложению самой знаменитой теоремы в истории математики. Эта теорема получила известность как “Великая теорема Ферма” (она же “Большая”, она же “Последняя”). На современном это языке звучит так:

не существует отличных от нуля целых чисел x, y и z, для которых имеет место равенство

при n>2.

Разумеется, никакого уравнения у Ферма не было. Он вообще не знал знака равенства, а использовал латинское eq. Приводим утверждение Ферма в оригинальном виде:

“Куб, однако, на два куба или квадроквадрат на два квадроквадрата и вообще никакую до бесконечности сверх квадрата степень в две того же названия невозможно разделить”. И не поставив точку, Ферма приписал: ”я открыл поистине удивительное доказательство этого предложения. Но оно не умещается на узких полях.“

Этой фразой Ферма прокомментировал задачу из Диофанта: “Заданный квадрат разложить на два квадрата”. Данное замечание является вторым по счету из сделанных им на полях “Арифметики”. Первое касалось житейских тем.

Неопределенные уравнения (т. е. уравнениями с двумя неизвестными) вида интересовали древних греков в связи с теоремой Пифагора. Они искали (и находили) тройки целых чисел, образующие стороны прямоугольного треугольника. Это означает, что при n =1, 2 уравнение в рамке имеет бесчисленное множество решений. Догадка Ферма заключалась в том, что при всех прочих n таких троек не существует.

Вряд ли Ферма был первым, кто пришел к подобному выводу. Например, около тысячи лет назад узбекский математик Хамид ал-Хадженди (что означает Хамид из Ленинабада) утверждал, что уравнение x3+y3=z3 не имеет решений в целых числах. Сегодня ясно, что Хамид не имел никаких шансов доказать это утверждение.

В отношении Ферма достоверно известно, что он доказал “Великую теорему” при n=4 на полях все той же “Арифметики”. И это единственное теоретико-числовое доказательство Ферма дошедшее до наших дней. На протяжении 20 лет Ферма упорно старается привлечь внимание математиков к “Великой теореме”, предлагая частные случаи в качестве задач. Случай n=3 он формулирует в пяти письмах, причем в последнем письме (от августа 1659 г.) пишет, что доказал теорему для n=3 методом спуска. Между тем “Великую теорему” для общего случая n>2 Ферма сформулировал только один раз в упомянутом замечании на полях “Арифметики”. Он не формулирует ее ни разу ни в одном из писем. Он предлагает только частные случаи (n=3, 4), в отношении которых уверенно говорит, что располагает доказательством. Даже в письме к де Каркави от 1659 г., в котором Ферма перечисляет свои основные достижения, о “Великой теореме” в общем виде нет ни слова. Это может означать только одно: Ферма обнаружил пробелы в своем “поистине удивительном доказательстве”, которые так и не смог устранить.

Разумеется, это не охладило потомков. Начиная с конца XVII в. началась невиданная по своей напряженности гонка за доказательством “Великой теоремы Ферма”. Обманчивая простота формулировки теоремы обрекла тысячи поклонников математики на бесплодные поиски доказательства или опровержения теоремы. Более ста лет никому из ученых не удавалось продвинуться вперед даже при рассмотрении частных случаев конкретных значений показателя n.

Первый серьезный результат был получен конечно же Эйлером (1768). Он показал, что случай n=4 уникален. Это единственный частный вариант “Великой теоремы ”, когда доказательство имеет вполне элементарный характер. Уже при n=3 возникают значительные осложнения. Настолько существенные, что появляется повод в очередной раз сомневаться в честности Ферма. Эйлер доказал теорему для случая n=3, рассматривая комплексные числа вида , где a, b - целые числа. В XVII в. подобная ересь не могла придти в голову даже Ферма.