LE GRAND “THÉOR`EME” DE FERMAT 1. Les Triangles

LE GRAND “TH´ EOR` EME” DE FERMAT
HENRI COHEN
1. Les Triangles Pythagoriciens
Tout le monde connait le th´eor`eme de Pythagore a2+b2=c2, o`u a,bet c
repr´esentent les longueurs des trois cot´es d’un triangle rectangle dont cest l’hypo-
th´enuse. Les math´ematiciens grecs ´etaient obnubil´es par la notion de rationalit´e, et
il ´etait naturel qu’ils s’int´eressent aux cas o`u a,bet csont des nombres rationnels.
En fait, la d´ecouverte par l’´ecole de Pythagore du fait que √2, consid´er´ee comme
l’hypoth´enuse d’un triangle rectangle dont les autres cot´es sont de longueur 1, a
provoqu´e une v´eritable r´evolution philosophique, un peu semblable a celle qu’a
provoqu´e au 20e si`ecle le th´eoreme d’incompl´etude de K. G¨odel, affirmant (en gros)
qu’une th´eorie math´ematique suffisamment d´evelopp´ee pour inclure la th´eorie des
nombres entiers ne sera jamais “compl`ete”, c’est `a dire qu’il restera toujours une
infinit´e d’´enonc´es qui ne sont ni d´emontrables ni falsifiables.
Les triangles rectangles dont les trois cot´es sont rationnels sont donc naturelle-
ment appel´es pythagoriciens. Le plus c´el`ebre est (3,4,5) puisque 32+ 42= 52.
Autre exemple: (5,12,13).
Exercice 1. [D1]:
(1) montrer que tout triangle pythagoricien est de la forme a=r(s2−t2),
b= 2rst,c=r(s2+t2), o`u rest un rationnel positif quelconque, et set
tsont deux entiers positifs premiers entre eux et de parit´e oppos´ee avec
s>t.
(2) Montrer que si a,bet csont des entiers premiers entre eux deux `a deux (ou
dans leur ensemble, c’est la mˆeme chose) alors r= 1.
Exercice 2. [D3]:
(1) Le triangle (3,4,5) est de surface 3.4/2 = 6. Construire un triangle pytha-
goricien de surface 5 (on pourra utiliser l’exercice 1).
(2) Plus g´en´eralement, en utilisant l’exercice 1 et un petit programme, faire une
table d’entiers inf´erieurs ou ´egaux `a 100 qui sont la surface d’un triangle
pythagoricien, et faire quelques remarques sur cette table.
Exercice 3 [D4] (extrait d’un probl`eme de CAPES): On rappelle que l’anneau
des entiers de Gauss Z[i] = {A=a+bi, a, b ∈Z}est un anneau poss´edant
une division euclidienne naturelle, et des propri´et´es tr`es semblables `a celles de Z,
telle que l’existence d’un PGCD. En particulier ±1 et ±isont ses seuls ´el´ements
inversibles.
(1) Montrer que si A2+B2=C2avec A,B, et Cdans Z[i] on a une formule
analogue `a celle de l’exercice 1.
(2) On consid`ere un cube dans R3dont tous les sommets sont `a coordonn´ees
enti`eres, et on choisit les coordonn´ees de telle mani`ere qu’un sommet soit
1

`a l’origine. On appelle (xi, yi, zi) (i= 1, 2, 3) les coordonn´ees des trois
sommets du cube reli´es `a l’origine. Montrer que la matrice
M=
x1y1z1
x2y2z2
x3y3z3
v´erifie M·Mt=r·I, o`u Mtd´esigne la matrice transpos´ee, rest un scalaire
strictement positif, et Ila matrice identit´e.
(3) On pose A=x1+iy1,B=x2+iy2,C=i(x3+iy3). Montrer que
Mt·M=r·Iet en d´eduire que A2+B2=C2.
(4) D´eduire de la premi`ere question une param´etrisation compl`ete des cubes `a
coordonn´ees enti`eres.
Fermat s’est interess´e a ce type de sujet dans plusieurs directions diff´erentes, et
ce qui est tout `a fait remarquable est que deux de ces directions l’ont men´e `a un
mˆeme r´esultat. Le premier est le probl`eme des nombres congruents, le second est
le grand “th´eor`eme” de Fermat.
Avant de consid´erer ces probl`emes, faisons un d´etour par la th´eorie des courbes
elliptiques, dont on peut raisonnablement tracer l’origine dans les travaux de Fermat
susmentionn´es.
2. Les courbes elliptiques
La th´eorie des courbes elliptiques requiereraient plusieurs livres `a elle seule. Il
va donc ˆetre impossible de la r´esumer en une ou deux pages.
Commen¸cons par une d´efinition un peu bizarre mais essentiellement correcte:
D´efinition 2.1. Une courbe elliptique d´efinie sur un corps Kest une courbe plane
d´efinie par une ´equation f(x, y) = 0 ayant les propri´et´es suivantes:
(1) C’est une cubique: en d’autres termes f(x, y)est un polynˆome dont le degr´e
total en xet yest ´egal `a 3:
f(x, y) = a1y3+a2y2x+a3yx2+a4x3+a5y2+a6yx +a7x2+a8y+a9x+a10 .
(2) Cette cubique, consid´er´ee comme une courbe projective, est non singuli`ere.
Ceci est presque ´equivalent au fait que les d´eriv´ees partielles de f(x, y)par
rapport `a xet `a yne s’annullent pas simultan´ement quand f(x, y) = 0.
(3) Il existe un point (projectif) `a coefficients dans le corps Ksur la courbe.
Ne vous inqui´etez pas si vous ne connaissez pas la g´eom´etrie projective, nous
n’en aurons pas vraiment besoin, mais sachez que c’est le cadre naturel dans lequel
´etudier la g´eom´etrie alg´ebrique, telle que les courbes.
Des raisonnements alg´ebriques, mais bas´es sur des consid´erations g´eom´etriques,
permettent de montrer qu’`a un changement rationnel de coordonn´ees pr`es, on peut
se ramener `a l’´etude de cubiques de la forme
f(x, y) = y2+a1xy +a3y−(x3+a2x2+a4x+a6).
De plus, si le corps de base est de caract´eristique diff´erent de 2 et 3, on se ram`ene
`a la forme tr`es simple f(x, y) = y2−(x3+ax +b).
La premi`ere raison pour laquelle on s’interesse aux courbes cubiques est ba-
nale: le degr´e 1 correspond aux droites, peu interessantes, et le degr´e 2 aux
coniques, ´etudi´ees en grand d´etail depuis l’antiquit´e grecque en particulier. Donc
2

c’est le cas suivant dans la hierarchie des degr´es. En fait, cette hierarchie n’est pas
math´ematiquement interessante: la notion de complexit´e d’une courbe est bien sˆur
li´ee `a son degr´e, mais la bonne notion est la notion de genre que je ne peux d´efinir
ici: les droites et coniques sont de genre 0, les courbes elliptiques de genre 1.
Mais la deuxi`eme raison pour laquelle on s’interesse aux cubiques planes est
beaucoup plus importante: on peut d´efinir dessus de mani`ere naturelle une loi de
composition interne. En effet, si P1et P2sont sur la cubique, la droite passant par
P1et P2(ou la tangente `a la courbe si P2=P1) coupe la courbe en trois points, et
on connait deux d’entre eux, P1et P2, donc le troisi`eme point d’intersection P3a
des coordonn´ees qui s’expriment facilement et rationnellement en fonction de celles
de P1et P2.
Il en r´esulte que si l’on connait ne serait-ce qu’un seul point sur la courbe, en
utilisant ce processus appel´e naturellement s´ecante (quand P26=P1) et tangente
(quand P2=P1), on peut la plupart du temps construire une infinit´e de points sur
la courbe `a coordonn´ees dans le mˆeme corps K, par exemple rationnelles si K=Q.
Et ceci est bien entendu vrai pour toute ´equation qui peut se ramener `a une
´equation cubique.
Pour terminer cette tr`es br`eve introduction aux courbes elliptiques, notons que
la loi de composition interne que l’on utilise n’est pas tout `a fait la loi qui `a (P1, P2)
associe P3comme ci-dessus, mais son “sym´etrique” par rapport `a un point origine:
dans le cas d’une ´equation f(x, y) = y2−(x3+ax +b), c’est le point obtenu de P3
en changeant yen −y.
Remarque: le mot “elliptique” provient du calcul de la longueur d’un arc
d’ellipse, qui s’effectue `a l’aide de fonctions elliptiques qui param´etrisent naturelle-
ment une courbe elliptique, comme les fonctions trigonom´etriques param´etrisent
naturellement un cercle. Ces fonctions elliptiques interviennent dans beaucoup de
calculs d’int´egrales, outre la rectification d’une ellipse, ´egalement dans le calcul de
la p´eriode d’un pendule, etc...
3. Le probl` eme des nombres congruents
Disons tout de suite que c’est le dernier probl`eme de l’antiquit´e grecque (plus
pr´ecis´ement de Diophante d’Alexandrie) qui n’est toujours pas compl`etement r´esolu
(mais presque, voir plus loin).
D´efinition 3.1. On dit qu’un entier nest un nombre congruent si c’est la surface
d’un triangle pythagoricien, c’est-`a-dire d’un triangle rectangle dont les trois cot´es
sont rationnels.
Si vous avez fait l’exercice 2, vous voyez que 5 et 6 sont des nombres congruents,
et vous avez mˆeme peut-ˆetre construit une petite table de tels nombres inf´erieurs `a
100.
Le r´esultat facile suivant est fondamental:
Proposition 3.2. Un nombre entier positif nest congruent si et seulement si il
exist un point (x, y)`a coordonn´ees rationnelles non nulles sur la courbe elliptique
f(x, y) = 0 avec f(x, y) = y2−x(x2−n2). Plus pr´ecis´ement si (a, b, c)est un
triangle pythagoricien de surface n, les quatre points (a(a±c)/2, a2(a±c/2)) et
(b(b±c)/2, b2(b±c)/2) sont de tels points. R´eciproquement, un tel point (x, y)
fournit un triangle pythagoricien de surface navec a=|y/x|,b= 2n|x/y|,c=
(x2+n2)/|y|.
3

Exercice 4. [D1]: d´emontrer cette proposition.
Exercice 5. [D3]: en utilisant la loi de composition interne sur les courbes
elliptiques d´ecrite ci-dessus, montrer que si nest un nombre congruent il existe une
infinit´e de triangles pythagoriciens de surface n(bien entendu on consid`ere deux
triangles comme distincts s’ils n’ont pas les mˆemes cot´es).
Si vous avez construit une petite table comme ci-dessus, vous voyez qu’il y a des
entiers inf´erieurs `a 100 dont la nature (congruent ou non) n’a pas ´et´e d´etermin´ee:
ceci ne veut bien sˆur pas dire qu’ils ne sont pas congruents: il est possible qu’en
poussant les calculs plus loin vous puissiez en trouver d’autre. En d’autres termes,
montrer qu’un nombre n’est pas congruent est `a priori beaucoup plus difficile (`a
post´eriori ce n’est pas tout `a fait vrai: le nombre 157 est congruent, mais je vous
d´efie de le montrer sans tricher). Le r´esultat profond (lire “difficile”) de Fermat sur
ce sujet est le suivant:
Th´eor`eme 3.3. Le nombre 1n’est pas un nombre congruent.
D’apr`es la proposition ci-dessus, ceci est donc ´equivalent `a dire que si xet ysont
des nombres rationnels tels que y2=x3−x, alors y= 0, et donc x= 0 ou x=±1.
Fermat a d´emontr´e ce th´eor`eme en utilisant sa “m´ethode de descente infinie”
qu’il a invent´ee, et qui est extrˆemement utile. En gros, il montre que si (x, y) est
une solution (avec y6= 0), on peut en construire une “plus petite”.
Exercice 6. [D7] Essayer de reconstruire la d´emonstration de Fermat, sans
tricher. Si vous y arrivez sans aide ni livre, contactez moi, je connais peu de
personnes capable de le faire. Mais ce n’est pas impossible: voir le probl`eme 8
comme exemple de la m´ethode de descente.
Le probl`eme des nombres congruents consiste `a d´eterminer quels nombres sont
congruents, ou du moins de donner un crit`ere simple. Ce probl`eme date donc
essentiellement du III-i`eme si`ecle de notre `ere.
Apr`es de nombreux calculs sur ordinateur, qui ont augment´e notre liste de nom-
bres congruents mais pas vraiment fait progress´e le probl`eme, le premier pas fon-
damental a ´et´e fait en 1970 grˆace `a l’utilisation d’une des conjectures les plus
fondamentales de la th´eorie des nombres, la conjecture BSD du nom de ses inven-
teurs, Birch et Swinnerton-Dyer. Ceci permet pour chaque entier nde d´eterminer
rapidement mais conjecturalement s’il est congruent ou non, puis d’essayer d’en
d´eduire une “vraie” d´emonstration. Au moins, il n’y a plus d’incertitude, mˆeme si
la d´emonstration peut manquer.
Le deuxi`eme (et dernier) pas fondamental a ´et´e effectu´e en 1982 par Tunnell, qui a
finalement donn´e un crit`ere tr`es simple pour d´eterminer si un nombre est congruent
ou non, v´erifiable en quelques microsecondes sur ordinateur. Malheureusement, la
v´eracit´e de son crit`ere d´epend d’une forme tr`es faible de la conjecture BSD, et c’est
pourquoi on dit que le probl`eme est “presque”, mais pas compl`etement, r´esolu.
4. Le probl` eme (grand “th´ eor` eme”) de Fermat
Mais Fermat s’est aussi pos´e le probl`eme de g´en´eraliser les triangles pythagoriciens
`a des puissances plus ´elev´ees que 2: plus pr´ecis´ement, puisqu’il existe des entiers
a,bet ctels que a2+b2=c2(et mˆeme une infinit´e), serait-il possible qu’il existe
des entiers (non nuls) tels que a3+b3=c3, ou plus g´en´eralement an+bn=cn
pour n≥3 ? Il est bien connu que Fermat a ´ecrit ceci dans la marge du livre
d’arithm´etique de Diophante d’Alexandrie, avec une remarque disant en substance
4

qu’il avait une d´emonstration merveilleuse de ce fait mais que la marge ´etait trop
´etroite, etc...: il est d´esormais universellement admis que Fermat n’avait pas une
telle d´emonstration. En fait, il a ´ecrit ceci quand il ´etait relativement jeune, cette
annotation a ´et´e trouv´ee apr`es sa mort, et il est probable qu’il n’a jamais imagin´e
que quiconque la lise, et qu’il aurait probablement lui-mˆeme dit qu’il s’´etait laiss´e
emballer.
Mais revenons `a la question de Fermat: il y a un raisonnement tr`es simple qui
permet de se convaincre que la r´eponse `a sa question est probablement n´egative:
consid´erons l’ensemble des entiers de la forme an+bn−cnqui sont en valeur absolue
plus petit que X. Tr`es en gros, ceci implique que an,bnet cnsont plus petits que
X, donc a,bet cplus petits que X1/n. Il y a donc approximativement X3/n triplets
(a, b, c) possibles, donc au plus X3/n valeurs de an+bn−cn, parmi les nombres
plus petits que Xen valeur absolue. On voit donc qu’il y a une distinction tr`es
marqu´ee entre trois ensembles de valeurs de n:
(1) Si n= 1 ou n= 2, X3/n est beaucoup plus grand que 2X, donc il y a une
tr`es forte chance que l’on obtienne 0 parmi toutes ces valeurs.
(2) Si n= 3, X3/n =X, et il y a alors une chance raisonnable que l’on obtienne
0.
(3) Si n≥4, X3/n ≤X3/4est n´egligeable par rapport `a X, et donc il y a tr`es
peu de chance d’obtenir 0.
Bien que ce raisonnement soit tr`es approximatif, il est en fait qualitativement
correct. Et d’ailleurs, je sugg`ere de faire l’exercice suivant:
Exercice 7. [D3]: En utilisant le mˆeme “raisonnement” que ci-dessus, “mon-
trer” ce qui suit. On consid`ere l’´equation plus g´en´erale ap+bq=cravec p,q
et rentiers plus grands o`u ´egaux `a 2. On pose χ= 1/p + 1/q + 1/r (ce qui est
l’´equivalent de 3/n ci-dessus).
(1) Si χ > 1, il y a de tr`es fortes chances que l’´equation soit soluble, si χ= 1
il y a une chance raisonnable, si χ < 1 il y a tr`es peu de chance.
(2) On suppose par exemple que p≤q≤r. Montrer (cette fois ci rigoureuse-
ment) que χ > 1 ´equivaut soit `a p=q= 2 et r≥2 quelconque, soit
`a p= 2, q= 3, et r= 3, 4, ou 5, puis montrer que χ= 1 ´equivaut `a
(p, q, r) = (2,3,6), (2,4,4) ou (3,3,3).
(3) Montrer enfin (rigoureusement) que si χ < 1 alors χ≤41/42.
Tout ceci est bien joli, mais ne r´esoud pas vraiment la question de Fermat. Nous
dirons que le “theor`eme” de Fermat est vrai pour ns’il n’existe pas d’entiers non
nuls a,bet ctels que an+bn=cn.
Le premier r´esultat qu’il a obtenu, `a nouveau en utilisant sa m´ethode de de-
scente infinie, est que son ´equation est effectivement impossible pour n= 4. Plus
pr´ecis´ement:
Th´eor`eme 4.1. (Fermat). Si a,bet csont non nuls on ne peut pas avoir a4+b4=
c2. A fortiori, le th´eor`eme de Fermat est vrai pour n= 4.
Probl`eme 8. [D6] Le but de ce probl`eme des de d´emontrer le th´eor`eme ci-
dessus par la m´ethode de descente infinie de Fermat. On suppose donc que a4+b4=
c2avec a,bet centiers strictement positifs, et on suppose que ca ´et´e choisi le plus
petit possible.
5