Что же произошло? Почему Ферма, отложив в сторону самолюбие, пошел на примирение? Читая письма Ферма тех лет (1638 - 1640 гг.), можно предположить самое простое: в этот период его научные интересы резко изменились. Он забрасывает модную циклоиду, перестает интересоваться касательными и площадями, и на долгие 20 лет забывает о своем методе нахождения максимума. Имея огромные заслуги в математике непрерывного, Ферма целиком погружается в математику дискретного, оставив опостылевшие геометрические чертежи своим оппонентам. Его новой страстью становятся числа. Собственно говоря, вся “Теория чисел”, как самостоятельная математическая дисциплина, своим появлением на свет целиком обязана жизни и творчеству Ферма.

В трудах древних, с их культом чертежа, мы находим удивительно мало исследований по теории чисел. Евклид отмечает кое-какие правила делимости и доказывает бесконечность множества простых чисел. Можно также припомнить cribrum Eratosthenis (решето Эратосфена) - метод выделения простых чисел из натурального ряда. Вот, пожалуй, и все. Особняком стоят сочинения Диофанта (III век до н. э.), который рассматривал задачи о представлении чисел и решал неопределенные уравнения в целых числах. Из тринадцати книг его “Арифметики” до наших дней дошло лишь шесть. В Европе переводы сочинений Диофанта на латинский и французский языки появились лишь в начале XVII в. Баше де Мезириак в 1621 г. издал перевод “Арифметики” с собственными подробными комментариями и дополнениями. Именно это издание, попавшись в руки Ферма, сыграет выдающуюся роль в истории математики.

Ферма внимательнейшим образом штудирует “Арифметику” и помещает на полях книги 46 замечаний к тексту. Кроме этих пометок, положения из теории чисел (в основном без доказательств) рассеяны в письмах Ферма. Этого вполне хватило для возникновения нового направления в математике. После смерти Ферма его сын Самюэль издал в 1670 г. принадлежащий отцу экземпляр “Арифметики” под названием “Шесть книг арифметики александрийца Диофанта с комментариями Л. Г. Баше и замечаниями П. де Ферма, тулузского сенатора”. В книгу были включены также некоторые письма Декарта и полный текст сочинения Жака де Бильи “Новое открытие в искусстве анализа”, написанное на основе писем Ферма. Издание имело невероятный успех. Перед изумленными специалистами открылся невиданный яркий мир. Неожиданность, а главное доступность, демократичность теоретико-числовых результатов Ферма породили массу подражаний. В то время мало кто понимал как вычисляется площадь параболы, но каждый школяр мог осознать формулировку Великой теоремы Ферма. Началась настоящая охота за неизвестными и утерянными письмами ученого. До конца XVII в. было издано и переиздано каждое найденное его слово. Но бурная история развития идей Ферма только начиналась.

В последствии Ферма объяснит свое увлечение числами в письме английским математикам Дигби и Броункеру. Это письмо имеет специальный подзаголовок: “Второй вызов Ферма математикам”. Ферма пишет: “Едва ли кто-нибудь может предложить или даже понять чисто арифметические задачи. Ибо разве Арифметика не толковалась скорее геометрически, чем арифметически. Это подтверждает большинство трудов древних и новых авторов; подтверждают это и труды самого Диофанта. Он несколько более других отдалился от геометрии, когда начал излагать Аналитику в рациональных числах; однако и эта часть не совсем лишена геометрии, что вполне доказали книги Виета “Зететика”, где метод Диофанта переносится на непрерывные величины, а значит, и на геометрию. . Лишь я, словно идущий впереди факелоносец, предлагаю вам для доказательства или построения следующую теорему или задачу. Если вы ее решите, то поймете, что задачи такого рода ни тонкостью, ни трудностью, ни способом доказательства не уступают знаменитейшим проблемам геометрии”.

Что же искал и что открыл Пьер Ферма, занимаясь числами? Рискнем предположить, что более всего Ферма интересовали способы построения простых чисел. Он мечтал найти явную формулу, которая позволяет быстро вычислять сколь угодно большие простые числа. На полях “Арифметики” он высказал предположение, что таким “генератором” простых чисел будет формула

, n = 0,1,2, .

Действительно, при n = 0, 1, 2, 3, 4 получаем простые числа 3, 5, 17, 257, 65537. Ферма полагал, что при всех прочих n числа F(n) - простые, и неоднократно предлагал своим корреспондентам доказать этот результат .

Понадобилось сто лет, чтобы Леонард Эйлер в 1733 г. опроверг утверждение Ферма. Это произошло с подачи Христиана Гольдбаха, который в 1729 г. писал находившемуся в Петербурге Эйлеру: “Известно ли тебе замечание Ферма о том, что все числа вида именно 3, 5, 17 и т.д суть простые, причем сам он, по его признанию, не смог этого доказать и, насколько я знаю, после него никто не доказал”. Эйлер пару лет подумал и показал, что уже при n = 5 число F(5) делится на 641:

.

Для получения этого результата Эйлеру пришлось испытать 160 делителей. Составными оказались и многие другие числа Ферма (при n =6, 7, 8, 9, 10, 11, 12, 15, 16, 18, 23, 36, 38, 73). Наибольшее из известных в настоящий момент составных чисел Ферма F(452) состоит из 10135 цифр и делится на 27×2455+1 ( показано с помощью ЭВМ). Справедливости ради следует подчеркнуть, что Ферма, считая числа F(n) простыми, никогда не утверждал, что располагает доказательством этого факта. С другой стороны к настоящему времени известно столько же простых чисел Ферма, сколько из знали во времена Ферма, а именно: 3, 5, 17, 257, 65537.

Итак, Ферма ошибался. Его формула производила в основном составные, а не простые числа. Однако, идея “генерирования” простых чисел была воспринята с энтузиазмом. Все тот же отнюдь не легкомысленный Эйлер предложил многочлен x2-x+41, который при всех целых x от 0 до 40 дает только простые числа. Эйлер не поленился проделать эти вычисления, хотя прекрасно знал, что многочлен с целыми коэффициентами не может при всех натуральных значениях аргумента принимать только простые значения. Сегодня, несмотря на усилия сотен профессионалов и тысяч дилетантов, мы по-прежнему не умеем вычислять сколь угодно большие простые числа, хотя знаем массу нюансов об их распределении. Один из самых ярких результатов этой области принадлежит академику Пафнутию Львовичу Чебышеву (1850) : число простых чисел не превосходящих n приблизительно равно при n ® ¥ .

Ферма ошибся, но Ферма был бы не Ферма, если бы позволил хоть одной своей теореме бесславно кануть в лету. “Проклятые числа как оборотни” вылезали в самых далеких от теории чисел исследованиях. В 1796 г. 19-летний студент Геттингенского университета Карл Фридрих Гаусс произвел сенсацию, доказав теорему: правильный многоугольник может быть построен с помощью циркуля и линейки тогда и только тогда, когда число его сторон равно 2ap1p2 .pb , где все простые числа pi являются числами Ферма, т. е. имеют вид . То была месть Ферма спесивым геометрам. Теорема Гаусса подвела черту под многовековыми спорами относительно возможности построения правильных многоугольников и сэкономила массу времени любителям математики. Из этой теоремы следует, что можно построить правильные 3-, 5-, 17-, 257-, 65537- и другие многоугольники и нельзя построить, например, правильные 7-, 11-, 13- угольники. Для неверующих Гаусс не поленился построить правильный 17-угольник.