La suite , qui débute par 3, 5, 17, 257, 65537, 4294967297, 18446744073709551617 est répertoriée comme suite A000215 de l'OEIS.
Ces nombres doivent leur nom à Pierre de Fermat, qui émit la conjecture que tous ces nombres étaient premiers. Cette conjecture se révéla fausse, F5 étant composé, de même que tous les suivants jusqu'à F32. On ne sait pas si les nombres à partir de F33 sont premiers ou composés. Ainsi, les seuls nombres de Fermat premiers connus sont au nombre de cinq, à savoir les cinq premiers F0, F1, F2, F3 et F4, qui valent respectivement 3, 5, 17, 257 et 65 537.
Les nombres de Fermat disposent de propriétés intéressantes, en général issues de l'arithmétique modulaire. En particulier, le théorème de Gauss-Wantzel établit un lien entre ces nombres et la construction à la règle et au compas des polygones réguliers: un polygone régulier à côtés peut être construit à la règle et au compas si et seulement si est une puissance de 2, ou le produit d'une puissance de 2 et de nombres de Fermat premiers distincts.
En 1640, dans une lettre adressée à Bernard Frénicle de Bessy, Pierre de Fermat énonce son petit théorème et commente: «Et cette proposition est généralement vraie en toutes progressions et en tous nombres premiers; de quoi je vous envoierois la démonstration, si je n'appréhendois d'être trop long[1].» Ce théorème lui permet d'étudier les nombres portant maintenant son nom. Dans cette même lettre[2], il émet la conjecture que ces nombres sont tous premiers mais reconnaît: «je n'ai pu encore démontrer nécessairement la vérité de cette proposition». Cette hypothèse le fascine; deux mois plus tard, dans une lettre à Marin Mersenne, il écrit: «Si je puis une fois tenir la raison fondamentale que 3, 5, 17, etc. sont nombres premiers, il me semble que je trouverai de très belles choses en cette matière, car j'ai déjà trouvé des choses merveilleuses dont je vous ferai part[3].» Il écrit encore à Blaise Pascal: «je ne vous demanderais pas de travailler à cette question si j'avais pu la résoudre moi-même». Dans une lettre à Kenelm Digby, non datée mais envoyée par Digby à John Wallis le , Fermat donne encore sa conjecture[4] comme non démontrée[5]. Toutefois, dans une lettre de 1659 à Pierre de Carcavi[6], il s'exprime en des termes qui, selon certains auteurs, impliquent qu'il estime avoir trouvé une démonstration[7]. Si Fermat a soumis cette conjecture à ses principaux correspondants, elle est par contre absente des Arithmétiques de Diophante rééditées en 1670, où son fils retranscrivit les quarante-sept autres conjectures qui furent plus tard prouvées. C'est la seule conjecture erronée de Fermat.
En 1732, le jeune Leonhard Euler, à qui Christian Goldbach avait signalé cette conjecture trois ans auparavant[8], la réfute[9]: F5 est divisible par 641. Il ne dévoile la construction de sa preuve[10] que quinze ans plus tard. Il y utilise une méthode similaire à celle[11] qui avait permis à Fermat de factoriser les nombres de MersenneM23 et M37[12].
Il est probable que les seuls nombres premiers de cette forme soient 3, 5, 17, 257 et 65 537, car Boklan et Conway[13] ont prépublié en une analyse très fine estimant la probabilité d'un autre nombre premier à moins d'un sur un milliard.
Premières propriétés
La suite des nombres de Fermat peut se définir par récurrence simple:
ou par récurrence double:
ou par récurrence forte:
ou encore:
.
On en déduit le théorème de Goldbach[14] affirmant que:
Une récurrence et l'égalité suivante permet de calculer le premier produit:
La seconde égalité s'en déduit:
Deux nombres de Fermat distincts sont premiers entre eux.
Soit n et m deux entiers positifs tels que n est strictement plus grand que m. Montrons que le seul facteur commun à Fn et Fm est 1. Un calcul précédent montre que
donc un diviseur commun à Fn et Fm est aussi un diviseur de 2. Or 2 ne divise pas Fn. Ces trois entiers sont donc premiers entre eux deux à deux.
Il suffit de remarquer que le nombre de chiffres nécessaire pour écrire un entier a en base b est égal à la partie entière de logb(a)+1.
Fn se termine par 7 pour n supérieur ou égal à 2 car c'est le produit de F1 = 5 par un nombre impair, plus 2.
Nombre de Fermat et primalité
La raison historique de l'étude des nombres de Fermat est la recherche de nombres premiers. Fermat connaissait déjà la proposition suivante[16]:
Soit k un entier strictement positif; si le nombre 2k + 1 est premier, alors k est une puissance de 2.
Démonstration
Il existe deux entiers a impair et b tels que k = a 2b. En posant c = 2(2b), on dispose alors des égalités suivantes:
qui montrent que c + 1 est un diviseur du nombre premier 2k + 1 et donc lui est égal, si bien que k = 2b.
Fermat a conjecturé (erronément, comme on l'a vu) que la réciproque était vraie; il a montré que les cinq nombres
, , , et sont premiers. Actuellement, on ne connaît que cinq nombres de Fermat premiers, ceux cités ci-dessus.
On ignore encore s'il en existe d'autres, mais on sait que les nombres de Fermat Fn, pour n entre 5 et 32, sont tous composés; F33 est le plus petit nombre de Fermat dont on ne sait pas s'il est premier ou composé.
En 2013[17], le plus grand nombre de Fermat dont on savait qu'il est composé était: F2 747 497; l'un de ses diviseurs est le nombre premier de Proth 57×22 747 499 + 1[18].
Factorisation des nombres de Fermat composés
Euler démontre le théorème:
Tout facteur premier d'un nombre de Fermat Fn est de la forme k.2n+1 + 1, où k est un entier.
(Lucas a même démontré plus tard que tout facteur premier d'un nombre de Fermat Fn est de la forme k.2n+2 + 1.)
Tout facteur premier p d'un nombre de Fermat Fn est de la forme k.2n+1 + 1, où k est un entier. Modulo p, Fnest congru à 0 donc 22n est congru à –1, si bien que l'ordre multiplicatif de 2 dans l'anneau ℤ/pℤ est égal à 2n+1. Or cet ordre multiplicatif est un diviseur de p – 1, ce qui termine la démonstration.
On peut le vérifier par un simple calcul, mais expliquons comment Euler découvrit le diviseur 641. On cherche un entier k tel que le nombre p = 64k + 1 soit à la fois premier et diviseur strict de F5. Les premières valeurs de k ne conviennent pas, mais dès k = 10, on constate que p = 641 est premier et que modulo p, donc et .
Tout facteur premier p de Fn pour n > 1 peut s'écrire sous la forme s.2n+2 + 1, où s est un entier. D'après la démonstration précédente, p est de la forme k.2n+1 + 1. Édouard Lucas est allé plus loin: Comme n > 1, p est congru à 1 modulo 8. D'après la deuxième loi complémentaire de la loi de réciprocité quadratique, 2 est donc un résidu quadratique modulo p, c'est-à-dire qu'il existe un entier a tel que . Il est également possible de remarquer directement que 2 est un résidu quadratique modulo p, car
Comme une puissance impaire de 2 est un résidu quadratique modulo p, 2 lui-même en est un aussi. On a alors , et . Ainsi l'ordre de a modulo p est égal à , et d'après le petit théorème de Fermat, p−1 est donc divisible par ; p peut alors s'écrire sous la forme .
Le cas général est un problème difficile du fait de la taille des entiers Fn, même pour des valeurs relativement faibles de n. En 2020, le plus grand nombre de Fermat dont on connaisse la factorisation complète est F11[19], dont le plus grand des cinq diviseurs premiers a 564 chiffres décimaux (la factorisation complète de Fn, pour n inférieur à 10, est, elle aussi, entièrement connue). En ce qui concerne F12, on sait qu'il est composé; mais c'est, en 2020, le plus petit nombre de Fermat dont on ne connaisse pas la factorisation complète[20]. Quant à F20, c'est, en 2020, le plus petit nombre de Fermat composé dont on ne connaisse aucun diviseur premier[21].
Gauss et Wantzel ont établi un lien entre ces nombres et la construction à la règle et au compas des polygones réguliers: un polygone régulier à n côtés est constructible si et seulement si n est le produit d'une puissance de 2 (éventuellement égale à 20 = 1) et d'un nombre fini (éventuellement nul) de nombres de Fermat premiers distincts.
Par exemple, le pentagone régulier est constructible à la règle et au compas puisque 5 est un nombre de Fermat premier; de même, un polygone à 340 côtés est constructible à la règle et au compas puisque 340 = 22.F1.F2.
Il est possible de généraliser une partie des résultats obtenus pour les nombres de Fermat.
Pour que an + 1 soit premier, a doit nécessairement être pair et n doit être une puissance de 2.
On appelle couramment «nombres de Fermat généralisés[25]» les nombres de la forme (avec a ≥ 2)[26], mais Hans Riesel a donné aussi ce nom aux nombres de la forme [27]. Le plus grand nombre premier de la forme connu en 2017 est , un nombre de plus d'un million de chiffres[28].
Dans une autre lettre à Frénicle il écrit aussi: «Mais voici ce que j'admire le plus: c'est que je suis quasi persuadé que tous les nombres progressifs augmentés de l'unité, desquels les exposants sont des nombres de la progression double, sont nombres premiers, comme 3, 5, 17, 257, 65537, 4 294 967 297 et le suivant de 20 lettres 18 446 744 073 709 551 617; etc. Je n'en ai pas la démonstration exacte, mais j'ai exclu si grande quantité de diviseurs par démonstrations infaillibles, et j'ai de si grandes lumières, qui établissent ma pensée, que j'aurois peine à me dédire.», Lettre XLIII, août? 1640, dans Œuvres de Fermat, t. 2, p.206.
Lettre XLV, 25 décembre 1640, dans Œuvres de Fermat, t. 2, p.213. Édouard Lucas, dans ses Récréations mathématiques, tome II, p. 234 donne cette citation infidèle (7 n'a pas à être dans la liste): «Si je puis une fois tenir la raison fondamentale que 3, 5, 7, 17, 257, 65537 sont nombres premiers […]».
«Potestates omnes numeri 2, quarum exponentes sunt termini progressionis geometricæ ejusdem numeri 2, unitate auctae, sunt numeri primi» («Toutes les puissances du nombre 2 dont les exposants sont des termes de la progression géométrique du même nombre 2, donnent, si on les augmente d'une unité, des nombres premiers.»)
«propositiones aliquot quarum demonstrationem a nobis ignorari non diffitemur […] Quaeritur demonstratio illius propositionis, pulchræ sane, sed et verissimæ» («quelques propositions dont nous ne nierons pas ignorer la démonstration […] Il reste à trouver une démonstration de cette proposition, certainement belle mais aussi très vraie»), lettre XCVI dans Œuvres de Fermat, t. 2, p.402-405.
Lettre CI, point 5, dans Œuvres de Fermat, t. 2, p.433-434. Fermat énumère des questions qui se traitent par sa méthode de la descente infinie. Il place parmi ces questions sa conjecture (erronée) sur les nombres dits depuis nombres de Fermat et il ne dit plus, comme il l'avait fait dans des lettres antérieures, qu'il n'a pas encore trouvé de démonstration de cette conjecture.
C'est l'interprétation que donne H.M. Edwards, Fermat's Last Theorem, Springer, 1977, p. 24, prenant position contre les vues contraires de E.T. Bell, The Last Problem, New York, 1961, p. 256.
(la) L. Euler, «Observationes de theoremate quodam Fermatiano aliisque ad numeros primos spectantibus», Commentarii academiae scientiarum Petropolitanae, vol.6, , p.102-103 (lire en ligne).
(la) L. Euler, «Theoremata circa divisors numerorum», Novi Commentarii academiae scientiarum imperialis Petropolitanae, vol.1, , p.20-48 (lire en ligne) (présenté en 1747/48).
Fermat, dans sa lettre XL à Mersenne de juin? 1640 (Œuvres de Fermat, t. 2, p.195-199), découvre pour M37 le diviseur 6 × 37 + 1, après avoir détaillé sa méthode sur l'exemple connu M11 = 23 × 89. Dans sa lettre XLIII à Frénicle (août? 1640) déjà citée, il signale de plus, pour M23, le diviseur 47.
Boklan et Conway 2017 appellent «nombres premiers de Fermat» (avec un t en italique) les nombres premiers de la forme 2k + 1 avec k entier positif ou nul, qui sont donc 2 et les «vrais» nombres premiers de Fermat.
(en) Michal Křížek(cs), Florian Luca(en) et Lawrence Somer, 17 Lectures on Fermat Numbers: From Number Theory to Geometry, New York, Springer, , 257p. (ISBN978-0-387-95332-8, lire en ligne)— Contient une bibliographie étendue.