Formes quadratiques binaires entières

CHAPITRE 3
Formes quadratiques binaires entières
Référence : Le livre de Gauss déjà cité.
1. Vocabulaire des formes
Définition 3.1. Une forme quadratique binaire entière est une fonction q:Z2→Z
telle qu’il existe a, b, c ∈Zvérifiant
q(x, y) = ax2+bxy +cy2,∀x, y ∈Z.
Dans tout ce chapitre, nous appellerons simplement "forme" une "forme quadra-
tique binaire entière". Remarquons que si qest comme dans la définition ci-dessus,
on a
a=q(1,0), b =q(0,1),et a+b+c=q(1,1).
La forme qest donc uniquement déterminée par le triplet (a, b, c)∈Z3, c’est pour-
quoi nous la désignerons souvent simplement par le symbole (a, b, c), à la manière
de Gauss 1. On note Q(Z2)l’ensemble des formes, c’est un groupe abélien pour
l’addition évidente des fonctions.
La forme (a, b, c)est dite primitive si a, b, c sont premiers entre eux dans leur
ensemble. Autrement dit, une forme est primitive si elle n’est pas égale à nq où
n≥2et q∈Q(Z2). L’étude de toutes les formes se ramenant trivialement à celle
des formes primitives, on se concentrera parfois sur ces dernières, notamment lorsque
cela allègera les énoncés.
Définition 3.2. On dit que la forme qreprésente l’entier n∈Zs’il existe (x, y)∈Z2
tel que q(x, y) = n. Si n= 0, on requiert de plus que (x, y)6= (0,0).
On dit que qreprésente primitivement l’entier n∈Zs’il existe x, y ∈Zpremiers
entre eux tels que q(x, y) = n.
Déterminer l’ensemble des entiers représentés par une forme donnée est la moti-
vation principale de ce chapitre. Pour les formes du type x2+dy2, ce problème a été
soulevé au chapitre précédent, et d’autres formes quadratiques annexes sont alors
apparues, ce qui justifie en partie (suivant Lagrange) que l’on s’y intéresse dans cette
généralité. Par exemple, la forme x2+ 5y2s’est trouvée accompagnée de la forme
2x2+ 2xy + 3y2, l’une et l’autre représentant alors exclusivement les premiers ptels
que −5
p= 1.
1. Le lecteur qui étudiera Gauss prendra garde qu’il ne considère que des formes du type ax2+
2bxy +cy2avec a, b, c ∈Z, et qu’il note donc (a, b, c)ce que nous notons (a, 2b, c).
39

40 3. FORMES QUADRATIQUES BINAIRES ENTIÈRES
Notons que si l’on connaît tous les entiers primitivement représentés par q, alors
on connaît tous les entiers représentés par q, de sorte que l’on se concentrera souvent
sur ceux-ci. Une forme peut cependant représenter un même entier primitivement
et non primitivement : la forme (1,0,1) représente 25 primitivement et non primiti-
vement (et 4uniquement non primitivement). Remarquons enfin que si un nombre
premier est représenté par q, il l’est nécessairement primitivement.
Une quantité fondamentale attachée à une forme est son discriminant.
Définition 3.3. Le discriminant de la forme q= (a, b, c)est l’entier disc(q) =
b2−4ac.
Par exemple, le discriminant de x2+dy2est −4d. On constate aussi que x2+ 5y2
et 2x2+ 2xy + 3y2sont toutes deux de discriminant −20. De même, les formes
(1,0,11) et (3,2,4) rencontrées dans l’étude des premiers de la forme x2+ 11y2sont
toutes deux de discriminant −44.
Nous verrons par la suite que le discriminant d’une forme détermine grandement
les propriétés des entiers qu’elle représente. La question la plus élémentaire est celle
de leur signe.
Proposition 3.4. (Signe du trinôme) Soit qune forme de discriminant D.
(i) qreprésente 0si, et seulement si, Dest un carré,
(ii) D≤0si, et seulement si, les entiers non nuls représentés par qsont tous
de même signe.
Démonstration — Écrivons q= (a, b, c). Supposons d’abord a= 0. Dans ce cas q
représente 0,D=b2est un carré, et q(x, y) = bxy +cy2. Cela montre (i). De plus
on a D≤0si, et seulement si, on a b= 0, soit q(x, y) = cy2, ce qui entraîne (ii).
Supposons maintenant a6= 0. En particulier q(x, y)=0avec (x, y)6= 0 entraîne
y6= 0. Considérons l’identité remarquable ("forme canonique")
(2) 4aq(x, y) = (2ax +by)2−Dy2.
On en déduit que qreprésente 0si, et seulement si, Dest un carré dans Q, ou ce
qui revient au même si Dest un carré dans Z(car Z∩Q=Z!). Le sens ⇒du (ii)
s’ensuit également car si D≤0et q(x, y)6= 0 alors aq(x, y)>0. Pour la réciproque,
on considère (x, y) = (−b, 2a).
Cela nous conduit à une discussion sur l’involution sur les formes q= (a, b, c)7→
−q= (−a, −b, −c). Bien sûr, disc(q) = disc(−q)et cette involution échange formes
à valeurs ≥0et formes à valeurs ≤0. Ainsi, dans l’étude des formes de discriminant
<0(qui ne représentent pas 0), on ne perdra rien à ne considérer que des formes
(a, b, c)à valeurs positives, ou ce qui revient au même telles que a > 0.
Convention : Dorénavant, nous supposerons toujours qu’une forme de discriminant
<0est positive. Autrement dit, si (a, b, c)est une forme telle que b2−4ac < 0, on
supposera de plus que a > 0.
La théorie des formes de discriminant <0s’avèrera sensiblement plus simple.
En effet, considérons par exemple le problème algorithmique consistant à déterminer

2. NOTIONS D’ÉQUIVALENCE ENTRE DEUX FORMES 41
tous les entiers positifs représentés par une forme q= (a, b, c)de discriminant D < 0.
L’identité (2) montre que q(x, y) = nentraîne
|y| ≤ r4an
−Det |2ax +by| ≤ √4an,
en particulier il n’y a qu’un nombre fini de couples (x, y)à tester pour résoudre
q(x, y) = n. Quand D > 0ce n’est plus vrai. Par exemple l’équation de “Pell-Fermat”
x2−2y2= 1 admet une infinité de solutions (x, y)∈Z2(Exercice 3.7).
2. Notions d’équivalence entre deux formes
Suivant Lagrange, étudions maintenant les formes obtenues par changement de
variables à coefficients entiers à partir d’une forme donnée. C’est une question tout
à fait importante car les entiers représentés par la forme obtenue seront évidemment
parmi ceux représentés par la forme dont on est parti, et qu’en particulier deux
formes obtenues par changement de variable réversible représentent les même entiers.
Fixons donc qune forme, ainsi que u, v deux éléments de Z2. La fonction
(x, y)7→ q(xu +yv),Z2→Z,
est alors une nouvelle forme. Concrètement, si l’on écrit u= (α, γ)et v= (β, δ),
on trouve simplement la forme q(αx +βy, γx +δy), de sorte que l’on a simplement
opéré le changement de variables (x, y)7→ (αx+βy, γx+δy). La notation matricielle
suivante sera parfois commode.
Notation : Si (x, y)∈Z2, on pose q(x
y) = q(x, y), autrement dit on voit
les éléments de Z2comme des vecteurs colonnes. Si uet vsont comme ci-dessus on
a donc la relation
q(xu +yv) = q(xα
γ+yβ δ) = q(Px y)
où P= Mat(u, v) = α β
γ δ est la matrice des vecteurs uet vdans la base
canonique de Z2.
Proposition-Définition 3.5. Si q∈Q(Z2)et M∈M2(Z)on note q·Mla forme
(x, y)7→ q(Mx
y). Pour tout M, N ∈M2(Z)et tout q∈Q(Z2), on a la relation
(q·M)·N=q·(MN).
Le cas le plus important de changement de coordonnées est celui où u, v est
une Z-base de Z2, ou ce qui revient au même si le déterminant de P= Mat(u, v)
vaut ±1(i.e. P∈GL2(Z)), car alors ce changement de variables est réversible :
q= (q·P)·P−1. Dans ce cas, la forme obtenue renferme à bien des égards la même
information que la forme q, et selon la définition suivante sera dite équivalente àq.
On rappelle que
SL2(Z) := {P∈GL2(Z)|det(P) = 1},
c’est donc un sous-groupe distingué d’indice 2de GL2(Z). On dira qu’une Z-base
u, v de Z2est directe si det(u, v) = +1.

42 3. FORMES QUADRATIQUES BINAIRES ENTIÈRES
Définition 3.6. Deux formes qet q0sont dites équivalentes (resp. proprement
équivalentes) s’il existe une Z-base u, v de Z2(resp. une Z-base directe) telle que
q0(x, y) = q(xu +vy)pour tout x, y ∈Z. Il revient au même de dire qu’il existe
P∈GL2(Z)(resp. P∈SL2(Z)) tel que q0=q·P.
On notera q∼q0(resp. q+ ∼q0) si qet q0sont équivalentes (resp. proprement
équivalentes). Ce sont des relations d’équivalence sur Q(Z2). En effet, la relation (3.5)
signifie que (P, q)7→ q·Pest une action à droite du groupe GL2(Z)(resp. SL2(Z))
sur Q(Z2)dont les orbites sont les classes d’équivalence (resp. d’équivalence propre).
Notons que q+ ∼q0entraîne évidemment q∼q0. En particulier, l’ensemble des classes
d’équivalence (resp. d’équivalence propre) de formes est une partition de Q(Z2).
La notion d’équivalence est due à Lagrange et celle d’équivalence propre à Gauss.
Même si la première est la plus naturelle dans les questions de représentation des
entiers, c’est la seconde qui permettra de comprendre les propriétés les plus fines
des formes, comme l’a vu Gauss. L’intérêt des de la notion d’équivalence propre
n’apparaîtra clairement que plus tard dans le cours, lorsque sera discutée la notion
de composition des formes.
Lemme 3.7. (Équivalences élémentaires) Pour tout a, b, c ∈Z, on a (a, b, c)∼
(a, −b, c)et
(a, b, c)+ ∼(c, −b, a)+ ∼(a, b + 2a, c +b+a)+ ∼(a, b −2a, c −b+a).
Démonstration — En effet, cela découle des changements de variables (x, y)7→
(x, −y)(qui change l’orientation), (x, y)7→ (y, −x),(x+y, y)et (x−y, y)(qui la
préservent), qui correspondent aussi respectivement aux matrices
1 0
0−1,0 1 −1 0 ,1 1 0 1 et 1−1 0 1 .
Par exemple, la forme (5,6,2) est proprement équivalente à (1,0,1). On peut en effet
le voir en appliquant les équivalences élémentaires suivantes : (5,6,2) + ∼(2,−6,5) + ∼
(2,−2,1) + ∼(1,2,2) + ∼(1,0,1).
Proposition 3.8. Deux formes équivalentes représentent les mêmes entiers, primi-
tivement ou non, et ce le même nombre de fois. De plus, elles sont simultanément
primitives. Enfin, deux formes équivalentes ont même discriminant.
Démonstration — Le premier point de la proposition est évident : si P∈GL2(Z)
alors x
y7→ P−1x y
définit une bijection entre les (x, y)∈Z2tels que q(x, y) = net les (x0, y0)∈Z2
tels que (q·P)(x0, y0) = n, son inverse étant x0
y07→ Px0 y0. Comme u∈Z2
est primitif si et seulement s’il n’est pas de la forme mv avec v∈Z2et m≥2,

3. ENTIERS REPRÉSENTÉS PAR UNE FORME, D’APRÈS LAGRANGE 43
on voit de plus que uest primitif si, et seulement si, P u l’est. La seconde assertion
découle de ce que si m∈Z,q∈Q(Z2)et M∈M2(Z), alors (mq)·P=m(q·P).
La dernière assertion découle de la proposition suivante et de ce que le déterminant
d’un élément de GL2(Z)est toujours ±1.
Proposition 3.9. Si qest une forme et P∈M2(Z), alors Mat(q·P) = t PMat(q)P.
En particulier, disc(q·P) = det(P)2disc(q).
Démonstration — Si q= (a, b, c), posons Mat(q) = 2a b
b2c. On a disc(q) =
−det(Mat(q)). On conclut par l’identité matricielle 2q(x, y) = tx
yMat(q)x y,
valable pour tout x, y ∈Z.
Observons que deux formes de même discriminant ne sont pas nécessairement
équivalentes. Par exemple, les deux formes (1,0,5) et (2,2,3) ont même discriminant
−20. La seconde représente 2mais pas la première, car 2n’est pas de la forme x2+5y2
avec x, y ∈Z.
3. Entiers représentés par une forme, d’après Lagrange
Théorème 3.10. (Lagrange) Soient D, n ∈Z. Il y a équivalence entre :
(i) Dest un carré modulo 4n,
(ii) il existe une forme de discrimininant Dqui représente primitivement n.
En effet, supposons que Dest un carré modulo 4n. On peut donc trouver b, c ∈Z
tels que D=b2−4nc. Mais alors la forme q= (n, b, c)est de discrimimant D, et
représente primitivement n=q(1,0). On a montré (i) implique (ii).
La réciproque, d’apparence moins intéressante, est plus difficile. Nous aurons
besoin des deux lemmes suivants. On dira qu’un vecteur (x, y)∈Z2est primitif si
xet ysont premiers entre eux.
Lemme 3.11. Tout vecteur primitif u∈Z2se complète en une Z-base directe u, v
de Z2.
Démonstration — En effet, écrivons u= (x, y). Soient α, β ∈Ztels que αx+βy = 1
(Bézout). On constate que
det x−β
y α = 1
donc (x, y)et (−β, α)forment une Z-base directe de Z2.