Le problème de l`axiomatique, d`Euclide à Hilbert

Le problème de l’axiomatique, d’Euclide à Hilbert
E.Huchet-I.Mazari-J.Vella
Histoire des mathématiques
Table des matières
Introduction
1
1 Éléments historiques : le projet euclidien et sa relecture par Hilbert
2
1.1 Les Éléments d’Euclide, un texte fondateur . . . . . . . . . . . . . . . . . . .
2
1.2 L’invention d’une démarche . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3
1.3 Hilbert et le mouvement d’axiomatisation des mathématiques au XIX e me siècle 4
2 Le problème de l’axiomatisation et de la complétude en mathématique
2.1 L’approche hilbertienne de la géométrie . . . . . . . . . . . . . . . . . . . .
2.1.1 Les cinq groupes d’axiomes . . . . . . . . . . . . . . . . . . . . . . .
2.1.2 Structure logique du système de Hilbert . . . . . . . . . . . . . . . .
2.2 Le premier théorème d’incomplétude de Gödel . . . . . . . . . . . . . . . .
2.2.1 Position du problème . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.2.2 La démonstration de Gödel . . . . . . . . . . . . . . . . . . . . . . .
2.2.3 Implications mathématiques et philosophiques . . . . . . . . . . . . .
.
.
.
.
.
.
.
4
4
4
5
7
7
8
10
3 Les conséquences philosophiques de l’axiomatisation des Éléments d’Euclide par Hilbert
10
3.1 L’axiomatisation des Éléments d’Euclide par Hilbert : une géométrie sans intuition ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.2 La méthode axiomatique des Fondements de la géométrie et la théorie de la
démonstration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Conclusion
18
Introduction
Toute enquête sur les fondements des mathématiques et de la géométrie doit nécessairement passer par une étude détaillée des Éléments d’Euclide. Non pas que les propositions
mathématiques que cet auteur énonce soit radicalement nouvelles – il en reprend la plupart
aux mathématiciens de son époque-, mais parce qu’il est le premier à réfléchir directement
sur la façon dont les vérités mathématiques doivent être exposées. Or réfléchir sur le mode
d’exposition d’un système mathématique ne signifie pas seulement analyser la façon dont
le savoir peut être présenté de la façon la plus claire, ou la plus synthétique possible. Il en
va plus radicalement d’une réflexion sur la méthode à adopter en mathématique et sur la
façon dont doivent s’articuler entre elles des propositions mathématiques scientifiquement
1
valables. Euclide propose une tentative de formalisation mathématique de ses connaissances.
Il énonce des définitions, des postulats et des axiomes sur lesquels il s’appuie pour démontrer
l’ensemble de ses propositions mathématiques.
Les axiomes sont des vérités premières indémontrables et évidentes par elles-mêmes qui
constituent le fondement de toute démonstration. L’ensemble des théorèmes et propositions
énoncés par Euclide dans les treize livres des Éléments reposent donc sur ces axiomes.
Or c’est une réflexion sur ces axiomes et sur leur prétendue « évidence » qui va bouleverser
la géométrie euclidienne au XIXème siècle et entraîner sa remise en question. Gauss, dès
1813, s’interroge sur l’axiome des parallèles ou cinquième postulat d’Euclide, et en conteste
l’évidence. Il ouvre ainsi la voie au développement des géométries non-euclidiennes chez
Lobatchevski ou Riemann notamment(attention, lobatchevski l’a développée en parallèle).
Plus globalement, c’est la méthode même adoptée par Euclide qui va être remise en cause
au XIXème siècle. Le mathématicien allemand David Hilbert réfléchit ainsi sur le statut des
axiomes chez Euclide. Il critique leur évidence acquise par intuition et entreprend d’édifier
un système mathématique axiomatisé, c’est-à-dire entièrement formalisé.
Nous nous intéresserons ici à cette « relecture » du projet euclidien par Hilbert et à
l’axiomatisation de la géométrie. L’entreprise hilbertienne doit-elle être considérée comme un
approfondissement du travail d’Euclide ou comme une remise en question radicale de sa façon
de penser la géométrie et ses fondements ? Nous insisterons sur l’importance épistémologique
de la question de l’axiomatisation de la géométrie. Il s’agit de savoir ce qui fonde un savoir
mathématique et ce qui garantit la scientificité de propositions mathématiques.
Nous présenterons dans un premier temps les travaux d’Euclide et d’Hilbert d’un point de
vue historique. Il s’agira ensuite d’expliciter le rapport de Hilbert à Euclide en se penchant
plus précisément sur leurs analyses mathématiques en tant que telles. Ce sera l’occasion de
réfléchir sur la possibilité ou non d’une formalisation des mathématiques en analysant le
théorème de (in)complétude chez Gödel. Enfin, nous évoquerons les implications philosophiques de la question des axiomes. Nous nous demanderons notamment ce que peut être
une géométrie formalisée en étudiant sa prise de distance par rapport à l’intuition.
1
1.1
Éléments historiques : le projet euclidien et sa relecture
par Hilbert
Les Éléments d’Euclide, un texte fondateur
Euclide publie ses Éléments aux environs de 300 av. Jésus-Christ. Ce texte résulte d’une
compilation d’ouvrages de mathématiciens antérieurs, notamment Eudoxe, Théétète, Pythagore. . . Il contient les principales propositions de la géométrie de l’époque, exposées sous une
forme systématique. Le traité rassemble 13 livres traitant entre autres de géométrie plane et
proposant une théorie des nombres.
Le texte des Eléments est un ensemble extrêmement structuré, composé de définitions, de
postulats ou « demandes » et de notions communes, c’est-à-dire des vérités communément
admises. Le livre I par exemple contient 35 définitions, des notions communes et cinq postulats. Le 5ème postulat dit « postulat des parallèles » est le plus connu, car le plus controversé
2
des postulats posés par Euclide. A partir des postulats posés au début des différents livres,
Euclide énonce des propositions. Ces dernières découlent des postulats, c’est-à-dire qu’il est
toujours possible en principe de remonter à un postulat à partir d’une proposition.
1.2
L’invention d’une démarche
Ce qui fait la force et la postérité de l’œuvre euclidienne n’est pas tant le contenu des
propositions mathématiques qu’il énonce que la forme même que prend son exposé, celle d’un
système déductif unifié reposant sur des prémisses absolument indémontrables. Dans l’introduction de son article consacré aux principes de la science chez Aristote et Euclide 1 , Francis
Wolff se demande si la démarche d’Euclide doit être considérée ou non comme une rupture
par rapport aux mathématiques de son temps. Il dresse une comparaison entre le texte euclidien et la rédaction d’Éléments par Hippocrate de Chios. Ce dernier ne distinguait toutefois
pas les prémisses premières d’une science et les prémisses d’un ensemble de démonstrations
données, ce qui confère à son entreprise une portée moins radicale que celle d’Euclide.
Tentons de caractériser la démarche suivie par Euclide dans son texte. La comparaison
avec le programme épistémologique défini par Aristote dans les Seconds Analytiques peut
s’avérer pertinente sur ce point. Nous reprendrons donc ici les analyses menées par Wolff
dans l’article précédemment cité. Euclide comme Aristote partagent une même conception
de la science comme science démonstrative.
Aristote définit au livre A de sa Métaphysique la connaissance scientifique comme une
connaissance par les causes. Il s’agira donc d’exposer le savoir scientifique en mettant en
évidence un lien déductif qui fait dépendre nécessairement une vérité d’autres vérités antérieures, déjà connues, définies comme principes. Seuls ces principes n’exigent pas d’être
démontrés. Ce sont des propositions nécessairement admises et indémontrables qui doivent
servir à démontrer toutes les autres.
Ainsi, chaque livre des Éléments s’ouvre sur l’énoncé du corpus minimal de propositions
nécessaires et suffisantes à démontrer la vérité de toutes les autres. Euclide énonce des définitions. Ces dernières n’énoncent aucune vérité, mais seulement la signification de certains
termes, en se gardant de toute assomption d’existence. Aux vérités s’ajoutent les notions
communes qui sont posées sans démonstration et servent aux démonstrations de toutes les
autres propositions. Enfin, Euclide pose des postulats qui sont des demandes de possibilité
de construction de certaines figures de base.
C’est à partir de ces définitions, notions communes et postulats que l’ensemble de la science
euclidienne est construite.
Que dire de cette démarche euclidienne ? A-t-elle été remise en question par les mathématiciens des générations ultérieures ?
Dans son Histoire des mathématiques en deux volumes, W. W. Rousse Ball présente rapidement l’œuvre d’Euclide . Il insiste sur l’importance des Éléments, texte classique de la
1. "Les principes de la science chez Aristote et Euclide", in Revue de métaphysique et de morale, Wolff,
Francis. :2000, pages : 329 -362
3
géométrie, mais cherche également à répertorier les défauts de ce texte 2 . Le premier défaut
répertorié par l’auteur porte sur le statut des définitions et des postulats chez Euclide : «
Les définitions et axiomes contiennent beaucoup de suppositions qui ne sont pas évidentes,
et il en est ainsi, en particulier, de l’axiome dit des parallèles ». Et Rousse Ball de se référer
aux analyses de Lobatschewsky et de Riemann entre autres qui ont élaboré des géométries
non-euclidiennes.
Cette citation nous semble intéressante à commenter, en particulier par l’usage que fait
l’auteur de la notion d’évidence. Que veut-il dire quand il affirme qu’Euclide est parti de
suppositions « non évidentes » ? W.W. Rousse Ball se fait ici le porte-parole de l’ensemble
d’une génération de mathématiciens qui, à partir du XIXème siècle surtout, se sont penchés
de manière critique sur le texte des Éléments. Hilbert fait partie de ces mathématiciens.
1.3
Hilbert et le mouvement d’axiomatisation des mathématiques
au XIX e me siècle
Mathématicien allemand de la première moitié du XXème siècle (1862-1943) David Hilbert propose dans son ouvrage majeur Les fondements de la géométrie (1889) une relecture
critique de la démarche euclidienne. Il remplace ainsi les cinq axiomes énoncés par Euclide
dans les Eléments par une série de 21 axiomes regroupés en cinq groupes et assortis de
théorèmes et de définitions : les axiomes d’appartenance, les axiomes d’ordre, les axiomes
de congruence, l’axiome des parallèles et les axiomes de continuité. Hilbert entend par cela
compléter les analyses euclidiennes qu’il juge insuffisantes. En effet, Euclide laisserait implicites des hypothèses pourtant nécessaires à la démonstration des théorèmes énoncés dans les
Éléments. C’est ce que nous montrerons dans la seconde partie de ce travail.
Mais Hilbert ne se contente pas de compléter les analyses euclidiennes. C’est le point de
vue qu’il adopte sur la géométrie qui le distingue plus radicalement d’Euclide. Hilbert rejette
en effet une interprétation intuitive de la géométrie, selon laquelle la géométrie se définit
comme « la science de l’espace devant exprimer des vérités empiriquement vérifiables » , au
profit d’un point de vue formaliste. Hilbert substitue à l’analyse des énoncés géométriques
eux-mêmes, l’étude des dépendances logiques entre énoncés géométriques. Du point de vue
formaliste, le choix d’un système d’axiome pour la géométrie est relativement arbitraire,
puisque les axiomes ne sont plus définis comme des vérités évidentes à tout le monde et vrais
en eux-mêmes. Ils ne sont donc plus immuables. Hilbert ouvre le champ de l’axiomatisation
de la géométrie.
2
2.1
2.1.1
Le problème de l’axiomatisation et de la complétude en
mathématique
L’approche hilbertienne de la géométrie
Les cinq groupes d’axiomes
Hilbert introduit de manière complètement formelle 3 les notions sous-entendues chez
Euclide et les agencent en trois sytèmes : un système de points (géométrie linéaire) , un
2. W.W. Rousse Ball, Histoire des mathématiques, Tome I, " Les mathématiques dans l’Antiquité ",
chapitre IV, le IIIème siècle av. J.C., Paris, Librairie Scientifique A. Hermann 1906-1907
3. C’est-à-dire sans inteprétation a priori dérivant d’une intuition.
4
système de droites (géométrie plane) et un système de plans (géométries de l’espace). Les
cinq groupes d’axiomes, listés ci-après, instaurent des relations entre ces différents objets.
1. Axiomes d’association/d’appartenance : traitent des relations entre points, droites et
plans. Postulent par exemple l’existence et l’unicité d’une droite passant par deux points
distincts.
2. Axiomes de distribution : postulent l’existence d’une relation entre points d’une droite
dans la description de laquelle se trouve le mot "entre". Permettent d’établir la notion
de coplanarité, d’alignement . . .
3. Axiomes des parallèles : définissent la notion de parallèle.
4. Axiomes de congruence : postulent l’existence d’une relation dite de "congruence" entre
segments et entre angles. Définissent ainsi la notion de déplacement.
5. Axiomes de continuité : constitué de l’axiome d’Archimède et de l’axiome d’intégrité
linéaire (la géométrie ainsi défini est maximale au sens où elle n’est susceptible d’aucune
extension où tous les axiomes précédents sont vérifiés).
Ce faisant, ils évitent certaines des erreurs logiques qui apparaissent dans les Éléments d’Euclide, notamment l’absence chez ce dernier de la définition d’égalité ou de congruence de
segments et d’angles, de même que le caractère implicite des méthodes de reports d’angles
ou de segments. Ces questions sont notamment réglées dans la section consacrée aux axiomes
de congruence.
2.1.2
Structure logique du système de Hilbert
Le problème logique sous-jacent Un des passages les plus frappants du livre d’Hilbert
est le second chapitre, consacré à la non-contradiction et à l’indépendance des axiomes,
passées sous silence dans l’ouvrage d’Euclide. Ce souci d’asseoir ce projet sur des bases
logiques solides et inébranlables s’inscrit dans un mouvement scientifique et philosophique
commencé pendant la seconde moitié du XIX e siècle : si, pendant des siècles , la géométrie
euclidienne avait été protégé de tout soupçon, les premières tentatives de construction d’une
géométrie non-euclidienne par Lobatchevski interrogent le cinquième axiome d’Euclide : est-il
déductible des quatre autres axiomes ? En d’autres termes, la géométrie des Lobatchevski estelle contradictoire ? Se pose alors la question de la structure interne de la mathématique : la
logique d’Euclide était profondément instable ; de nombreux axiomes jamais énoncés étaient
employés de manière récurrente, la plupart des objets n’avaient jamais été définies. . . En
1879, la logicien Gottlob Frege fait de premières tentatives dans le sens d’une formalisation
de la théorie de la démonstration dans son Begriffsschrift et parvient, le premier, à dégager
trois principales propriétés que devrait vérifier toute théorie mathématique :
i) Cohérence : ¬(A ∧ (¬A))
ii) Complétude : Pour toute proposition A du système, A ou ¬A est démontrable. (On parle
d’énoncé décidable.)
iii) Décidabilité : Il existe un algorithme qui pour tout énoncé A du système, peut vérifier
que A ou¬A est un théorème du système en un nombre fini d’étapes. On dit que A est
décidable (on parle d’ensemble décidable).
Au vu des définitions, il est légitime de se demander si la différence entre décidabilité et
complétude est si grande que cela : Considérons le système de calcul des prédicats du premier ordre (donnée d’un alphabet, de connecteurs logiques,de quantificateurs. . . on l’on ne
quantifie que les variables). Gödel montre en 1929 que ce système est complet mais qu’il
n’est que semi-décidable au sens où aucun algorithme ne permet, pour toute formule F , de
5
fournir un moyen mécanique vérifiant si F est un théorème ou non. En revanche, il existe un
algorithme permettant de dresser une liste de tous les théorèmes du système les uns après les
autres. Ainsi, cette semi-décidabilité ne permet pas de conclure : si l’on compare F à la liste
des théorèmes, si F est un théorème, la conclusion sera atteinte en temps fini. En revanche,
si F n’est pas un théorème, il faut attendre la terminaison de la procédure d’énumération,
qui a potentiellement lieu en temps infini.
Non-contradiction des axiomes Pour la suite, il est utile de rappeler l’axiome d’Archimède et celui d’intégrité linéaire :
Axiome : Archimède. AB et CD étant deux segments quelconques, il existe un entier n tel
que le report du segment CD répété n fois à partir de A sur la demi-droite determinée par
B conduit à un point situé au delà de B.
Axiome : Intégrité linéaire. L’ensemble des points d’une droite, soumis aux relations d’ordre
et de congruence, n’est susceptible d’aucune extension dans laquelle sont valables les propriétés fondamentales d’ordre linéaire et de congruence déduite des groupes d’axiomes 1,2,4 et
de l’axiome d’Archimède.
Hilbert ramène la cohérence de ses axiomes à la cohérence de l’arithmétique des nombres
réels. Dans la suite, on ne supposera plus valable l’axiome d’intégrité linéaire. Pour montrer
que ces axiomes ne sont pas contradictoires, on construit une géométrie cohérente satisfaisant
tous ces axiomes.
1. Introduisons Ω ensemble des nombres algébriques formé à partir de 1 en appliquant un
nombre fini de fois les opérations artihmétiques élémentaires
√ (multiplication, addition,
soustraction, division) et de la cinquième opération ω 7→ 1 + ω 2 où la racine choisie
est la racine positive, ω appartenant à Ω. On peut par exemple définir l’ensemble Ω par
induction.
2. On considère (x, y) une paire de nombre du domaine assimilée à un point, puis un
rapport de nombres (u : v : w). Que signifient les deux points ? Que si (u, v, w) est
proportionnel à (u0 , v 0 , w0 ), on identifie ces deux triplets. En somme, on choisit un
représentant de ce triplet sous la relation de proportionnalité. On définit ensuite la
relation d’appartenance : (x, y) appartient à la droite (u, v, w) si
ux + vy + w = 0
Les axiomes d’association et l’axiome des parallèles sont satisfaits. Comme Ω ⊂ R, les
nombres de Ω peuvent être ordonnés.
Pour ordonner les points sur les droites, il faut introduire une relation telle que les
axiomes de distribution soient vérifiés : (x1 , y1 ), (x2 , y2 ) . . . étant des points d’une même
droite, on dira qu’ils sont ordonnés si la suite (x1 , x2 , . . . ) ou la suite (y1 , y2 , . . . ) est
monotone croissante ou décroissante. Enfin, , on déclare que tous les points (x, y) tels
que ux + vy + w > 0 est situé d’un côté ou l’autre de la droite, les points tels que
ux + vy + w < 0 étant situés de l’autre côté, de sorte que le dernier axiome du deuxième
groupe soit satisfait.
3. Pour ce qui est des déplacements, le report des segments et des angles correspondent
aux méthodes traditionnelles de la géométrie analytique :
– Translation de vecteur (a, b) d’un segment ou d’un angle tels que définis par Hilbert :
représenté par (x, y) 7→ (x + a, y + b)
– Symétrie autour de l’axes des x : représenté par (x, y) 7→ (x, −y)
6
4. Désignons ensuite par O le point (0, 0) du plan, par E le point (0, 1) et par C un point
(a, b) quelconque distinct de O. Réalisons la rotation autour de O d’angle COE. Alors
cette rotation est représenté par l’application
(x, y) 7→ ( √
a
b
b
a
x− √
y, √
x+ √
y)
2
2
2
2
2
2
+b
a +b
a +b
a + b2
a2
q
√
2
Mais a2 + b2 = b 1 + ab2 ∈ Ω.On vérifie que les 4 premiers axiomes de congruence
sont vérifiés, de même que le cinquième et que l’axiome d’Archimède dans cette géométrie. Nénanmois, l’axiome d’intégrité linéaire n’est pas vérifié. Ainsi, toute contradiction du système axiomatique considéré apparaît dans l’arithmétique de Ω. Admettant
la non-contradiction de l’arithmétique de Ω on en déduit celle des axiomes. 4
Notons qu’au lieu de considérer Ω, on aurait pu considérer directement l’ensemble des nombres
réels R et ainsi obtenir la géométrie cartésienne plane ordinaire où l’axiome d’intégrité linéaire
est vérifié. Ainsi, il existe potentiellement une infinité de géométrie satisfaisant les axiomes
sauf celui d’intégrité linéaire et une unique géométrie, appelée géométrie cartésienne satsfaisant absolument tous les axiomes.
Indépendance des axiomes On ne s’attache dans ce mémoire qu’à la démonstration de
l’indépendance de l’axiome des parallèles :
Axiome. Appelant parallèles deux droites coplanaires ne s’intersectant pas, a étant une droite
et A étant un point hors de cette droite, la plan déterminé par a et A contient au plus une
parallèle à a passant par A.
Pour montrer l’indépendance de cet axiome, on se place dans le cadre de la géométrie
cartésienne.
On choisit les points, les droites et les plans contenus à l’intérieur d’une sphère considérée
comme un élément de géométrie de l’espace. Les définitions des relations de congruence étant a
priori vides de sens, on peut définir la congruence via les transformations linéaires préservant
la sphère. Par ce qu’Hilbert appelle des "conventions appropriées", tous les axiomes sont
valables à l’exception de celui d’Euclide. La non-contradiction des axiomes ayant été établie
plus haut, on en déduit que les géométries non-euclidiennes sont des géométries valables.
Ainsi, on peut développer de nombreuses géométries en supprimant l’axiome des parallèles.
2.2
2.2.1
Le premier théorème d’incomplétude de Gödel
Position du problème
L’axiomatisation de l’arithmétique Le premier théorème de Gödel met en quelque
sorte fin à l’espoir d’avoir, comme évoqué ci-dessus, une théorie mathématique suffisamment
puissante pour développer les outils dont les mathématiciens se servent et qui satisfasse
aux exigences de complétude, de consistance et de décidabilité. Mais pour pouvoir parler de
cohérence d’un tel système, il faut dans un premier temps définir proprement les axiomes
d’un tel système, à l’instar de Hilbert. Ces axiomes, que nous ne détaillerons pas ici, postule,
informellement, de l’existence d’un ensemble désigné comme ensemble des entiers naturels
contenant un élément appelé 0 et d’une fonction "successeur" ayant les propriétés attendues :
4. Attention néanmoins, la non-contradiction de l’arithmétique ne peut être démontrée au moyen d’outils
uniquement arithmétiques par le théorème de Gödel et on doit se placer dans un cadre plus général pour la
démontrer. Pour plus de précisions, voir Sur la non-contradiction de l’arithmétique, Herbrand, Journal für
die reine und angewandte Mathematik
7
aucun entier entier n’a 0 pour successeur, deux entiers ayant même successeurs sont égaux....
Il est intéréssant de remarquer que, dans la liste de ces axiomes, Peano demande celui de
récurrence 5 qui, puisqu’il fait appel à un ensemble et à ses sous-ensembles, relève de la logique
du deuxième ordre.
La première partie du théorème d’incomplétude de Gödel La première partie du
théorème d’incomplétude dit, de manière informelle 6 , que si l(on dispose d’une théorie axiomatique suffisamment puissante pour développer l’arithmétique de tous les jours et qui soit
cohérente, alors elle ne sera pas complète, au sens où il existe un énoncé de G de la théorie
tel que ni G ni sa négation ne soit démontrable dans la théorie.
Comment Gödel réalise-t-il sa démonstration ? en adaptant en un certain sens le fameux
paradoxe de Richard : Considérons l’ensemble des entiers naturels : toute propriété sur une
variable s’exprime comme une suite finie de symboles, l’ensemble de ces propriétés est donc
dénombrable. On fixe une numérotation des formules. Pour un entier n et pour une formule
f on peut définir la substitution de n à la variable muette dans f et regarder si la conclusion
est vraie ou non. Notons R(n) la proposition correspondant au n-ième entier naturel. Si, en
subsituant n à la variable muette dans R(n), la formule est vraie, on dit que le nombre est
richardien.
Par exemple, si on décide que la proposition correspondant au nombre 2 est "être un nombre
premier", alors 2 n’est pas richardien. Donc ne pas être "richardien" et "être richardien" sont
deux propriétés portant sur les entiers. A priori, il y a donc un entier n qui code la propriété
"ne pas être richardien". Maintenant, n est-il richardien ? S’il est richardien, alors il n’est pas
richardien, et s’il n’est pas richardien alors il est richardien.
Ici, cependant, le paradoxe n’est qu’apparent et n’a aucun fondement logique : on a dans
un premier temps fixé une liste, et on a inséré dans cette liste une propriété s’y rapportant
explicitement, modifiant de ce fait la liste, et donc la propriété elle-même. Gödel va lever
cette ambiguïté dans sa démonstration, comme on le verra dans la sous-section suivante.
2.2.2
La démonstration de Gödel
Remarque. On omet ici la plupart des détails techniques.
Gödel travaille sur un système axiomatique du type de celui développé par Russell et Withehead dans les Principia Mathematica, c’est à dire un système possédant un ensemble limité
de signes mais suffisamment puissant pour développer tous les raisonnements arithmétiques.
Gödel "plonge" ensuite l’ensemble des propriétés, des formules. . . dans l’ensemble des
entiers suivant un codage bien précis. Ainsi, les raisonnements arithmétiques (les formules)
et les raisonnements métamathématiques se traduisent par des opérations sur des entiers ou
par des fonctions à valeurs dans les entiers.
5. Supposons qu’un ensemble d’entiers naturels contienne 0 et le successeur de chacun de ses éléments.
Alors cet ensemble est égal à celui des entiers naturels.
6. L’énoncé exacte étant : Si T est une théorie du premier ordre cohérente, récursivement axiomatisable
et contenant une version affaiblie de l’arithmétique de Peano (appelée arithmétique de Robinson), alors T est
incomplète au sens où il existe une formule close G dans le langage de T telle qu’aucune des formules G et
¬G n’est conséquence des axiomes de T .
8
Nombres de Gödel On peut utiliser 10 constantes (∃, (, ), ∨, ⇒, ¬, =, 0, s, ”, ”), 3 variables
numériques auxquelles seront substitués des nombres,3 variables propositionnelles (p, q, r)
et trois variables de prédicat (P, Q, R) auxquelles seront substituées des fonctions ou des
relations. On répertorie les signes comme suit, les nombres étant appelés nombres de Gödel :
– 1:¬
– 2:∃
– 3 :⇒
.
– ..
et ainsi de suite jusqu’à 7. On associe aux trois variables numériques les trois premiers
nombres premiers supérieurs à 10, aux trois variables propositionnelles les carrés des trois
premiers nombres premiers supérieurs à 10 et aux trois variables de prédicat les cubes des
trois premiers nombres premiers supérieurs à 10.
Codage des formules du système
exemple
On considère une expression bien parenthésée, par
(∃x)x = s0
(il existe un x tel que x est le successeur de 0). On voit que cette expression utilise 10 signe.
La nombre de Gödel de cette formule est le produit des 10 premiers nombres premiers où
l’exposant du premier nombre premier est le nombre de Gödel du premier signe, celle du
deuxième le nombre de Gödel du deuxième signe. . . Par unicité de la décomposition en
produit de facteurs premiers, le codage de Gödel d’une formule est défini de manière unique.
Substitution Considérons une formule f , de nombre de Gödel m. Dans la suite, on traitera
comme exemple la formule (∃x)(x = sy).
On veut donner à y une valeur particulière j ∈ N. On obtient une nouvelle expression (∃x)x =
sj. On peut en définir le nombre de Gödel, que nous noterons k (même si j n’a pas de nombre
de Gödel défini, en l’écrivant j = s . . . s0 on définit son nombre de Gödel).
j fois
On peut calculer k brutalement mais on peut aussi calculer k à partir de m de manière
algorithmique. On note alors, comme y est de nombre de Gödel 13 (dans la numérotation
choisie) , k = sub(m, 13, j) : nombre de Gödel de la formule de nombre de Gödel m obtenue
en substituant j à la variable de nombre de Gödel 13.
Dans la suite, ce qui nous intéressera sera la substitution sub(m, 13, m).
Arithmétisation L’un des atouts majeurs du système gödelien est de permettre le codage
de l’expression "l’expression de nombre de Gödel a démontre l’expression de nombre de
Gödel b" : il existe une série d’opérations permettant de partir de l’expression de nombre a
et d’arriver à l’expression de nombre b. On ne cherche plus ici le nombre de Gödel de A ⇒ B
mais un algorithme qui est un test pour savoir si A démontre B.
L’important est que pour tout a et pour tout b ce nombre existe, et sera noté Dem(a, b).
De même, il y a un nombre de Gödel associé à "l’expression de nombre a ne démontre pas
l’expression de nombre b", noté ¬Dem(a, b).
La démonstration Elle repose sur l’étude de l’expression
(a)(¬Dem(a, b))
(pour tout a l’expression de nombre a ne démontre pas l’expression de nombre b, ce qui est
équivalent à dire que l’expression de nombre b est indémontrable.)
9
On remplace b par sub(c, 13, c). Alors l’expression
(a)(¬Dem(a, sub(c, 13, c)))
a un nombre de Gödel appelé Ng . On substitue ensuite Ng à c. On obtient donc l’expression
(a)(¬Dem(a, sub(Ng , 13, Ng )))
Or par définition de la fonction sub le nombre de Gödel obtenu en substituant dans la formule
de nombre Ng le nombre Ng a la variable de nombre 13 est sub(Ng , 13, Ng ). Posons donc
n := sub(Ng , 13, Ng ). Donc l’expression de nombre n signifie "l’expression de nombre de
Gödel n n’est pas démontrable" ie "je ne suis pas démontrable.
Or le système est consistant donc l’expression de nombre n est vraie : supposons la fausse.
Alors elle est démontrable au sein du système et donc, par consistance, vraie et donc elle
n’est pas démontrable.Mais si elle est vraie, elle n’est pas démontrable mais cela ne veut pas
dire qu’elle est fausse. Donc elle est vraie. Mais elle n’est pas démontrable. Donc tout système
consistant est incomplet.
2.2.3
Implications mathématiques et philosophiques
La seconde partie du théorème En 1900, Hilbert énonce sa fameuse liste des 23 problèmes censés guider les recherches des mathématiciens des générations à venir. Le deuxième
de ces problèmes traite de la démonstration de la cohérence de l’arithmétique et en demande
une démonstration. La deuxième partie du théorème d’incomplétude de Gödel montre que
l’on ne peut démontrer la consistance du système à l’intérieur du système si celui-ci est cohérent. Pire : si on réussit à démontrer la consistance d’un système à l’intérieur de celui-ci,
alors celui-ci est inconsistant, et on peut y démontrer tout et n’importe quoi.
Attention néanmoins aux interprétations abusives de cette seconde partie : il reste envisageable de démontrer la consistance d’un système par des considérations extérieures au
système. Ainsi, la démonstration par Gentzen de la cohérence de l’arithmétique en 1936, qui
fait appel à des notions de théories des ensembles très poussées. Cette démonstration ne se
fait pas en un nombre finie d’étapes et ne peut en aucun cas rentrer dans l’arithmétique des
nombres entiers, puisqu’elle manipule allégrement des nombres infinis.
La portée philosophique de ce théorème Appelons T la formule non démontrable.
En pratique, T n’a pas grande importance en mathématique, mais sa simple existence exprime le fait que tout système suffisamment complexe pour y développer de véritables outils
mathématiques est capable d’engendrer des objets qu’il ne contrôle pas, qu’il est incapable
de décrire correctement. En d’autres termes, la logique n’est pas un rempart absolu contre
l’imprévisible.
3
Les conséquences philosophiques de l’axiomatisation des
Éléments d’Euclide par Hilbert
Dans l’Antiquité grecque, la scientificité se caractérise par une exigence démonstrative.
La connaissance correcte d’un fait implique d’en connaître nécessairement les causes et de
les exposer rigoureusement à l’intérieur d’un discours rationnel. Ainsi, la valeur épistémologique d’une démonstration est tributaire de la structure logique, laquelle encadre et fonde
l’enchaînement des énoncés. Chaque proposition est établie à partir de certaines propositions
10
initiales, cela signifie qu’elle peut en être déduite grâce à un nombre fini d’étapes, ce qui donne
à l’ensemble une cohérence systématique. Ces propositions premières sont des principes, évidents et indémontrables, mais nécessaires et même suffisants à la démonstration de la totalité
des autres propositions du corpus. Ainsi, ces propositions premières ont un rôle fondateur
dans le discours scientifique : si l’on prolonge la métaphore, les principes sont le fondement à
partir duquel peut s’ériger l’édifice de la science. Les Éléments d’Euclide semblent satisfaire à
ce critère de scientificité, ou au moins de rigueur : les cinq premiers postulats sont prioritaires
dans l’ordre synchronique d’exposition de l’ouvrage, et l’intégralité des propositions suivantes
est susceptible de pouvoir en être rigoureusement déduite.
Pour autant, peut-on assimiler les Éléments d’Euclide à une géométrie axiomatisée, selon
les exigences qui sont celles des mathématiciens du XIXe siècle ? Au contraire, ne peut-on
pas détecter un déplacement essentiel, depuis le système hypothético-déductif de la géométrie d’Euclide qui emploie encore l’intuition à l’axiomatisation de la géométrie euclidienne
par Hilbert qui est strictement formalisée, dans la manière dont la validité des énoncés mathématiques est légitimement fondée ? Loin d’être anhistoriques, les normes de la rigueur, de
la cohérence ou encore la définition du statut des objets mathématiques auraient une histoire
qui relèverait de la métamathématique. Il faut alors concevoir que l’axiomatique hilbertienne
prolonge la démonstrativité euclidienne en même temps qu’elle s’en éloigne. Elle la prolonge
en conservant l’idée de l’énonciation préliminaire des principes auxquels les démonstrations
doivent se conformer uniformément. Elle s’en éloigne en montrant que l’application de la
méthode apodictique est incomplète lorsqu’elle porte sur des notions où l’imagination vient
prolonger la sensibilité. Ainsi, le choix des axiomes n’est justifié par aucune évidence intrinsèque : dans une théorie axiomatisée, seules sont évidentes les propositions qui vérifient
correctement les axiomes, aussi la géométrie apparaît-elle dans cette perspective aussi bien
comme une science que comme un jeu de logique exclusivement formel.
C’est la mise en crise de certains dogmes de la philosophie de la connaissance par la
découverte de géométries non-euclidiennes qui rend nécessaire un tel déplacement, c’est-àdire la re-fondation a priori de la géométrie euclidienne à partir d’axiomes purement logiques
déployée par Hilbert. Dans la préface de la Critique de la Raison Pure 7 , Kant soutient que la
logique n’a pas d’histoire : celle-ci commencerait et s’achèverait avec la théorie aristotélicienne
de la prédication. Si la logique n’a pas d’histoire pour Kant, c’est qu’elle n’a pas d’objet,
mais son institution conjure son historicité future : elle est une science formelle appelée à
se répéter incessamment. Or, la constitution de géométries non-euclidiennes représente la
possibilité d’un événement à l’intérieur d’un dispositif aussi déterminé que les rapports entre
logique et mathématique : cet événement, c’est la découverte faite par les mathématiciens
(János Bolyai, Nikolaï Ivanovitch Lobatchevski, Bernhard Riemann pour la formation des
géométries non-euclidiennes) que l’on ne peut plus se fier à l’évidence et à l’intuition pour
juger de la vérité des axiomes et des inférences mathématiques.
Ceci conduit à modifier la nature de la relation fondationnelle des principes aux conséquences et affecte donc la manière dont les mathématiques produisent des vérités logiquement
fondées et se constituent en science dans un discours cohérent et systématique. En effet, en
7. "Ce qui montre par exemple que la logique est entrée depuis les temps les plus anciens dans cette voi
certaine, c’est que depuis Aristote, elle n’a pas eu besoin de faire un pas en arrière, à moins que l’on ne
regarde comme des améliorations les retranchements de quelques subtilités inutiles, ou une plus grande clarté
dans l’exposition, toutes choses qui tiennent plutôt à l’élégance qu’à la certitude de la science. Il est aussi
digne de remarquer que, jusqu’ici, elle n’a pu faire un seul pas en avant et qu’aussi, selon toute apparence,
elle semble arrêtée et achevée". Critique de la raison pure, Kant
11
reconstruisant l’édifice euclidien sur des bases axiomatiques saines, Hilbert fournit l’exemple
d’un système théorique qui ne doit plus rien à l’intuition. Les notions qui figurent au point de
départ (points, droites, plans) désignent des « objets » abstraits qu’il importe de vider de tout
contenu intuitif et qui ne sont définis que par leurs relations réciproques explicitement posées
sous forme d’axiomes. En outre, cet effort de remise en forme révoque en doute la philosophie
kantienne des mathématiques. Nourri de présupposés euclidiens, Kant avait démontré que la
mathématique procède « par construction de concepts » dans l’intuition sensible. Or il se
révèle ici qu’aucun champ intuitif, aucune sensibilité, ne manifeste de lui-même les formes
(l’espace, le temps) a priori d’une telle constructivité dans la démarche d’axiomatisation
effectuée par Hilbert.
Ainsi, les implications épistémologiques du geste hilbertien sont nombreuses et riches pour
la philosophie de la connaissance. Il modifie le statut des objets primitifs que sont les principes, il fournit des éléments décisifs pour une théorie de la démonstration métamathématique, ce qui implique en filigrane une redéfinition des modalités d’existence des entités mathématiques à laquelle nous serons attentifs tout au long de nos analyses : trois axes complémentaires qui s’articulent à la question des fondements de la géométrie.
3.1
L’axiomatisation des Éléments d’Euclide par Hilbert : une géométrie sans intuition ?
Dans la Critique de la Raison Pure, le problème de Kant est de déterminer la possibilité
des jugements synthétiques a priori, jugements universels et nécessaires qui enrichissent la
connaissance sans recourir à aucun contenu empirique. Le terrain qui nous intéresse est celui
de la géométrie euclidienne, que Kant, dans une perspective radicalement différente de celle
qu’adoptera Hilbert après lui, essaie de fonder sur l’intuition sensible, sans que celle-ci ne
mette les vérités mathématiques dans un état de dépendance vis-à-vis des contenus empiriques. Cela signifie que les jugements géométriques ne sont ni strictement conceptuels, ni
purement analytiques : les propriétés du triangles, telles qu’elles sont énoncées dans sa définition, sont construites par le mathématicien. Les règles opératoires de ces constructions
sont fournies par la forme a priori de l’intuition qu’est l’espace 8 , laquelle donne à la matière
du phénomène (la sensation) un format objectif. Ainsi, les postulats d’Euclide indiquent des
possibilités de construction : on peut toujours tracer un cercle (empiriquement, à l’aide d’un
compas), on peut toujours prolonger une droite (empiriquement, à l’aide d’une règle). Corrélativement, les démonstrations géométriques euclidiennes dépendent d’opérations similaires.
Par exemple, pour montrer que la somme des angles d’un triangle est égale à l’angle plat,
on part d’un triangle quelconque et l’on trace une parallèle à un côté passant par le sommet opposé à ce côté. La démonstration repose ensuite sur un raisonnement à partir de la
figure initiale et des constructions auxiliaires effectuées, en l’occurrence ce raisonnement va
consister à utiliser des propriétés des angles formés par la droite nouvellement tracée avec les
droites qui prolongent les deux autres côtés du triangle (sachant que ces propriétés ont déjà
été démontrées dans l’ordre synchronique des Éléments) :
8. Critique de la raison pure, Kant, introduction de l’"esthétique transcendentale : "La géométrie est une
science qui détermine synthétiquement, et pourtant a priori les propriétés de l’espace. Que doit donc être
la représentation de l’espace pour qu’une telle connaissance soit possible ? Il faut qu’elle soit originairement
une intuition ; car il est impossible de tirer d’un simple concept des propositions qui le dépassent, comme cela
arrive pourtant en géométrie."
12
A
C
B
d
Pour Kant, les axiomes de la géométrie ont donc une valeur essentiellement intuitive. Dans
l’intuition pure, l’espace est essentiellement constructif : l’objet de la géométrie, ce sont les
procédures constructives des figures spatiales (on ne peut se donner de représentation d’une
grandeur que dans l’espace) plutôt que les figures tracées. Pour cette raison, on peut raisonner
sur des figures erronées et produire des jugements universels et nécessaires. Les propriétés empiriques des figures engendrées par le géomètre n’interviennent jamais dans la démonstration.
Si l’intuition empirique sert à raisonner en géométrie, ce sont seulement les propriétés qui ont
été construites dans l’espace pur qui ont été réellement prouvées. L’intuition empirique ne
saurait valoir autrement que comme exemplification d’une opération intuitive qui elle-même
n’est pas empirique. Ainsi, la géométrie est rigoureuse dans ses constructions et féconde
dans ses résultats, c’est-à-dire que dans la formation des objets et dans leur détermination
conceptuelle les deux facultés de la connaissance (sensibilité, entendement) collaborent dans
la direction de la scientificité des jugements géométriques. Autrement dit, ces jugements
sont légitimement appelés synthétiques, car ils se fondent sur l’intuition sensible, mais ils
sont aussi rigoureux que les jugements analytiques dans lesquels tout ce qui est prédiqué
des concepts était déjà contenu dans les concepts eux-mêmes. Les jugements synthétiques a
priori articulent donc les registres intellectuel et sensible d’une manière homogène en vue de
la construction d’un objet de science. C’est à ce titre qu’ils peuvent être considérés comme
des axiomes de la géométrie : ils la rendent possible.
Le geste critique kantien consiste à partir de la scientificité des Éléments d’Euclide, qu’il
tient pour indubitable, dans la direction des règles informulées qui la soutiennent, et même la
fondent, en un sens archéologique. Cette entreprise, dont nous avons retracé les procédures de
manière schématique, amène nécessairement Kant à tenir les axiomes (l’espace n’a que trois
dimensions, entre deux points ne passe qu’une seule ligne droite, deux lignes ne suffisent pas
à déterminer une figure, trois points se trouve toujours dans un même plan) qu’il découvre en
deçà, au fondement, de l’activité constructrice de la géométrie comme les seuls possibles. Il
ne conçoit pas que les axiomes euclidiens puisse produire autre chose, consistant d’un point
de vue logique, qu’une géométrie euclidienne 9 , la seule qui semble conforme aux conditions
formelles de l’expérience. Mais les découvertes mathématiques du XIXe siècle aboutissent à la
formation de géométries non euclidiennes qui contredisent ce verdict, en tenant le cinquième
9. Critique de la raison pure, Kant, "L’esthétique transcendantale" : "L’espace n’est donc pas un concept
discursif ou, comme on dit, un concept universel de rapports de choses en général, mais une intuition pure.
En effet, d’abord on ne peut se représenter qu’un seul espace ; et, quand on parle de plusieurs espaces, on
n’entend par là que les parties d’un seul et même espace. Ces parties ne sauraient pas non plus être antérieures
à cet espace unique".
13
postulat pour indépendant des cinq autres. Si celles-ci n’invalident pas la rigueur démonstrative des Éléments d’Euclide, elles requièrent en revanche une redéfinition du statut des
axiomes qui évacue la fonction intuitive et fasse de l’analyse, et non de la synthèse, le lieu de
la scientificité.
Sans doute, les fondements de la géométrie de Hilbert accomplit ce genre de démarche.
Mais pour parvenir à cette fin, il est impératif de délaisser la signification usuelle ou intuitive
des termes primitifs et d’en accepter toutes les interprétations dans la mesure où elles sont
conformes aux axiomes choisis. La définition de la droite n’est donc rien d’autre qu’un objet
satisfaisant ces axiomes, et même, puisque chaque géométrie mobilise à la fois les notions de
point, de droite, de cercle, l’interprétation légitime de la notion de l’ensemble des notions
n’est rien d’autre que la collectivité des référents qui correspondent aux axiomes retenus.
D’où la très célèbre boutade de Hilbert : « l’on devrait pouvoir parler, en géométrie, de
tables, de chaises et de chopes de bière, au lieu de points, de droites et de plans ». Le langage
mathématique de la géométrie est donc entièrement formalisé et le sens usuel de chaque notion
n’a aucune incidence sur sa signification conceptuelle et sur le rôle qu’elle est susceptible de
jouer dans la vérification de la validité d’une preuve. Ce sont les relations entre les éléments du
système qui sont prises en considération par l’axiomatique, et non leur signification atomique.
L’inférence doit être indépendante de la référence dans le raisonnement : penser aux référents
des concepts impliqués (le sens des concepts, ou les figures auxquelles ils se réfèrent) dans
une déduction en facilite la compréhension mais n’en est jamais la condition nécessaire et
suffisante. Suivant une telle méthode, une preuve doit pouvoir être convaincante même si
chacun des lecteurs accorde une signification différente aux termes qu’elle mobilise, et décider
de sa validité ou non devrait pouvoir s’effectuer sans la moindre équivocité, en un nombre
fini d’étapes et, surtout, sans qu’aucune place ne soit ménagée à l’interprétation.
En ce sens, la position de Hilbert peut être qualifiée de «formaliste» et son axiomatisation
apparaît bien, à cette égard, comme une «formalisation» qui illustre ce que l’on peut attendre
d’une théorie cohérente où chaque assertion peut être vérifiée, et où tous les présupposés de
la géométrie d’Euclide ont été explicités. Ainsi, dans les fondements de la géométrie, les
référents des notions de droite, point, etc sont suspendus. Cela veut dire que dans deux
systèmes distincts, «point» pourra être un concept différent, même si le nom est le même,
selon la nature de son association avec les autres concepts du système, telle qu’elle est régulée
par les axiomes 10 . Le statut épistémologique de la géométrie est affecté en conséquence. Si
chez Kant elle pouvait prétendre être une science au même titre que la science de la matière,
son axiomatisation semble la rapprocher davantage d’un jeu formel où la charge sémantique
de chacune des formules est négligeable dans l’ordre de la démonstration. Cette image a
trouvé une formulation canonique en 1898 chez Johannes Thomae 11 :
Pour la conception formaliste, l’arithmétique est un jeu avec des signes qui sont bien
identifiés comme vides, par quoi on veut dire qu’ils n’ont (dans le jeu du calcul) aucun
contenu donné à côté de celui qui provient de leur rôle dans les règles de combinaison
(règles du jeu).
10. Sur ce point, voir Hilbert et la notion d’existence en mathématique, chapitre IV : "Vérité des axiomes
et existence des objets", Jacqueline Boniface.
11. Johannes Tomae, Elementare Theorie der analytischen Functionen einer complexen Veränderlichen,
Halle, 1898, cité par Jean-Claude Dumoncel dans son cours sur les fondements des mathématiques (Caen,
2008-2009).
14
Par conséquent, il est ôté à l’intuition toute possibilité de contrôle sur les énoncés mathématiques, alors même qu’elle était fondatrice dans la vision kantienne de la géométrie
euclidienne. La géométrie axiomatisée ne vise pas une vérité qui se tiendrait à l’extérieur de
son dispositif : il lui est demandé qu’elle ne conduise à aucune contradiction. Ainsi, l’axiomatisation traduit les Éléments d’Euclide dans un langage clarifié, c’est-à-dire univoque, où
les règles d’inférences et les axiomes, soubassement de la théorie, sont spécifiés sans recourir
à la cohérence d’une autre théorie, ce qui exposerait la géométrie à une régression à l’infinie
et la priverait de tout fondement.
Bien sûr, si ce n’est plus l’intuition qui fonde la géométrie, elle conserve une importance
fondamentale : il semble difficile, en effet, de progresser dans la connaissance géométrique
en se privant de la capacité à voir dans l’espace et des signes visibles que sont le point et
la droite par exemple. Mais l’axiomatique fournit à l’usage de ces signes, associés aux idées
mathématiques, une grammaire générale qui permette la dissociation et la combinaison légitimes des concepts géométriques. Les signes sont seulement disqualifiés dans la mesure où on
pourrait leur conférer une pertinence démonstrative, mais ils demeurent évidemment utiles
et essentiels aux opérations de la géométrie, une fois que sa fondation a été méthodiquement
assurée, c’est-à-dire qu’on est garanti de ne jamais se trouver confronter à un résultat contradictoire en passant un nombre fini de déductions. Ainsi, l’axiomatique hilbertienne ne rompt
pas complètement avec l’intuition, puisqu’elle conserve, par exemple, le concept de point,
tel qu’il est déterminé par les cinq groupes d’axiome du système. Ce point ne s’identifie à
aucun contenu intuitif dont il serait la description, mais il résulte de l’analyse de la structure
de l’intuition par abstraction (vider le concept de son sens) et par formalisation (mettre en
relation le concept avec d’autres concepts sous la juridiction des axiomes du système).
Comme Kant avant lui, Hilbert s’efforce de dégager le fondement de la géométrie à partir de la géométrie euclidienne. Mais la démarche est radicalement distincte : si l’on peut
qualifier l’attitude kantienne d’archéologique, dans la mesure où elle retrouve les conditions
de possibilité à partir d’une analyse critique de la science géométrique en activité, le geste
hilbertien semble d’avantage de l’ordre d’une fondation «architecturale». Les investigations
d’Hilbert ne l’amènent pas à comprendre le succès démonstratif des Éléments d’Euclide,
mais au contraire à donner des bases saines, qui permettraient à l’édifice d’être d’une rigueur
irréprochable du point de vue des mathématiques du XIXe, ce qui donne à son entreprise
le caractère d’une restauration. Afin d’en ressaisir la portée, il faut donc en examiner les
conséquences en termes métamathématiques. En effet, la méthode axiomatique institue une
nouvelle manière de contrôler la validité des énoncés mathématiques et joue, à cet égard,
le rôle d’une théorie de la démonstration qui peut étendre ses prescriptions et ses normes à
toute activité cognitive de l’entendement.
3.2
La méthode axiomatique des Fondements de la géométrie et la
théorie de la démonstration
Concevoir et mettre en pratique une forme de démonstration rigoureuse dans le champ
de la géométrie est indissociable d’exigences philosophiques. Quand la démonstration intervient en géométrie, chez les penseurs grecs de l’Antiquité, c’est toujours sous la forme d’un
raisonnement sur les constructions qui ont été opérées à partir de figures tracées. Dans la
philosophie platonicienne par exemple 12 , l’objet du mathématicien n’est jamais tel ou tel
triangle dessiné mais l’idée du triangle dont tous les triangles sensibles participent, même
12. Sur ce point, voir en particulier La République, VI,150, Platon.
15
s’ils en sont des images dégradées. Ainsi, entre les triangles particuliers et le triangle idéel,
maximum ontologique (identique à lui-même, inaltérable), il existe un rapport analogique.
Bien que les parties du triangle sensible et du triangle en soi diffèrent, le rapport entre ces
parties demeure structurellement le même de l’un à l’autre. Démontrer, c’est ainsi découvrir
par constructions (prolonger tel ou telle droite, tracer une parallèle passant par un point,
reporter telle ou telle longueur au compas, etc) les propriétés universelles que le triangle idéel
possédait déjà en lui-même, indépendamment des procédures du mathématicien. Ainsi, Platon dissocie les objets mathématiques réels, formes que le géomètre connaît intellectuellement,
des figures visibles. Théoriser la démonstration implique donc de donner un statut déterminé
aux entités mathématiques, ce qui nous intéressera dans la suite de notre étude. En tout cas,
la démonstration ainsi conçue semble rigoureuse dans la mesure où ce n’est pas l’observation qui fonde la véridicité des propriétés géométriques découvertes, mais les constructions.
Cependant, cette rigueur témoigne de nombreuses lacunes logiques. En effet, elle laisse une
place assez importante à la contingence. La démonstration, dont on est en droit d’attendre
qu’elle soit universelle et nécessaire, n’y est pas purifiée de toute dimension psychologique :
elle apparaît en fait comme un mode d’exposition des tâtonnements du mathématicien. Sans
doute, Euclide est le premier à prendre conscience de ce problème : démontrer des lois géométriques ne suffit pas, il est nécessaire d’établir les lois de la démonstration elles-mêmes,
définir distinctement les notions utilisées et la syntaxe qui met en ordre leur usage.
En effet, comme nous l’avons déjà souligné, les choses sur lesquels le géomètre raisonne et
les raisonnements qu’il tient sur elles sont explicitement distingués dans l’économie générale
des Éléments. Il commence ainsi par déterminer les choses (point, droite, limite, rectangle,
triangle, angle, surface plane, etc) sur lesquelles il raisonne en fournissant trente cinq définitions : les objets de la géométrie sont d’ores et déjà dissociés de leur représentation concrète,
imagée. Par ailleurs, les raisonnements, en géométrie comme dans toutes les autres sciences,
devront répondre à l’impératif de non-contradiction aristotélicien 13 . La non-contradiction,
dans le domaine spécifique de la géométrie, s’applique aux grandeurs. De là vient la formulation liminaire des neuf axiomes dans le livre I des Éléments, ou notions communes :
– Axiome 1 : « Les grandeurs égales à une même grandeur , sont égales entre elles ».
– Axiome 2 : « Si à des grandeurs égales , on ajoute des grandeurs égales , les touts seront
égaux».
– Axiome 3 : « Si de grandeurs égales , on retranche des grandeurs égales , les restes
seront égaux »
– Axiome 4 : « Si à des grandeurs inégales , on ajoute des grandeurs égales , les touts
seront inégaux».
– Axiome 5 : « Si de grandeurs inégales , on retranche des grandeurs égales , les restes
seront inégaux »
– Axiome 6 : « Les grandeurs , qui sont doubles d’une même grandeur , sont égales entre
elles »
– Axiome 7 : « Les grandeurs , qui sont les moitiés d’une même grandeurs , sont égales
entre elles »
– Axiome 8 : « Les grandeurs , qui s’adaptent entre elles , sont égales entre elles ».
– Axiome 9 : « Le tout est plus grand que la partie ».
Toutes ces notions communes sont réglées par l’impossibilité logique de prédiquer simultanément un prédicat et son contraire à un même sujet. En outre, les six postulats fournissent
au mathématicien les règles intellectuelles et abstraites des constructions géométriques à la
13. "Il est impossible qu’un même attribut appartienne et n’appartienne pas en même temps et sous le
même rapport à une même chose", Aristote, Métaphysique, livre Gamma, chap.3, 1005 b 19-20.
16
règle et au compas (conduire une unique droite d’un point à un autre, prolonger une droite,
décrire une circonférence), quoique le cinquième postulat (sur le parallélisme) ne puisse être
rattaché aux autres, comme on l’a vu. Ainsi, on observe un effort de clarification de la géométrie, notamment dans le partage des tâches entre les postulats qui circonscrivent un horizon
de constructions possibles et les axiomes qui donnent les principes des raisonnements sur les
grandeurs, dont tous les objets ont au préalable été rigoureusement définis. Ainsi, Euclide se
concentre initialement sur les lois démonstratives de la géométrie, d’ordre métamathématique,
avant de les mettre en pratique dans la suite des Elements. Réflexivement, la géométrie euclidienne questionne déjà ses propres fondements, c’est-à-dire les conditions qui lui permettent
de développer un savoir géométrique sur ses objets. Lorsque Kant place au fondement de la
géométrie un axiome de l’intuition, parce que toute représentation est de toute nécessité spatiale, et rend solidaire la dimension déductive et la dimension représentative de la géométrie,
il explicite bien une démarche fondatrice menée par Euclide. En effet, ce dernier associait
déjà les démonstrations en acte à la définition théorique de la démonstrativité.
Or, on a vu que la méthode axiomatique déployée par Hilbert évacuait la part intuitive
de la géométrie : quelles sont les conséquences d’un tel déplacement pour une théorie de la
démonstration métamathématique ? En effet, le statut de la démonstration dans la géométrie
est évidemment affecté dans la mesure où l’axiomatisation identifie la géométrie à une analyse
de la structure de l’intuition, comme on l’a vu : cela signifie que l’espace équivaut à un système
d’axiome et de déductions, et non à une intuition pure. L’espace devient un pur produit
conceptuel des mathématiques, un ensemble de relations logiques et de principes formels :
on est donc passé d’un espace constructif à un espace dont on peut déduire directement ou
indirectement certains théorèmes. La démonstration ne se préoccupe plus de la nature de ses
objets, c’est-à-dire ce qu’on se représente quand on emploie tel ou tel mot, mais de ce que l’on
peut en inférer logiquement en vertu de leur seule signification, conformément aux axiomes
du discours. Pour mieux comprendre ce que devient la démonstrativité dans ces conditions,
on peut se référer au préambule de la participation d’Hilbert à l’exposition universelle de
Paris, en 1900, soit au lendemain de sa publication des fondements de la géométrie. Avant
de faire l’inventaire des vingt trois problèmes non résolus dont hérite le XX e siècle, Hilbert
définit les exigences auxquelles doit répondre la résolution d’un problème mathématique afin
de convaincre la communauté des mathématiciens. Le point nodal de la démonstrativité est
la rigueur : « la solution [...] doit être obtenue au moyen d’un nombre fini de conclusions et
doit reposer sur un nombre fini d’hypothèses fournies par le problème même et fondées dans
chaque cas avec précision » 14 .
Ces hypothèses, ce sont les formules logiques et mathématiques, c’est-à-dire formalisées,
dont on va déduire les éléments de la solution au problème. L’axiomatisation de la géométrie
constitue à la fois un exemple de cette rigueur démonstrative et, en même temps, son modèle.
En effet, les objets mathématiques et les opérations qu’on y réalisent sont réduites à des
règles et à des structures logiques qui valent indépendamment de leur application. Leur
signification s’est substituée à leur contenu intuitif : ce sont des simples propositions. A partir
de ces axiomes qui sont quelque chose comme les règles du jeu des signes mathématiques, la
résolution des problèmes apparaît comme une mécanique intégralement maîtrisée qui aboutit,
au moyen d’une série limitée de procédures de déduction, à un résultat déterminé. Comme
tel, le raisonnement géométrique ressortit davantage du calcul que de la construction. En
14. Texte de la conférence dans Le défi de Hilbert de Jeremy J. Gray, trad. de C. Grammatikas, coll.
Universcience, éd. Dunod, 2003, pp253-263, cité par Alain Chauve dans "La philosophie de la démonstration
mathématique", philopsis
17
effet, à l’instar du calcul arithmétique de nombres entiers, le raisonnement géométrique doit
être finitiste : le calcul d’éléments entiers admet un nombre fini des étapes et ne fait intervenir
que des données déterminées (l’infini n’entre jamais en jeu dans les étapes de la résolution
du problème initial par exemple). Ainsi, cette exigence démonstrative, qui postule que tout
problème est soluble, reconduit le paradigme du finitisme à l’ensemble des mathématiques,
il est un programme dont l’exécution est seule capable de mener correctement à une solution
vraiment convaincante. De ce fait, l’axiomatique hilbertienne n’opère une clarification de la
géométrie euclidienne que pour mettre à jour les démonstrations qu’il permet et vérifier la
validité de leurs résultats. C’est là le domaine et l’ambition de la métamathématique qui
émerge avec le projet d’Hilbert : elle met en forme les structures fondamentales implicites
des systèmes mathématiques et analyse leur effectivité, c’est-à-dire les procédures au travers
desquelles un théorème est légitimement produit par déduction.
Finalement, quelle est la redéfinition du statut de la démonstration dans une telle démarche ? On a compris qu’on était passé de la construction au calcul 15 . Or, le calcul ne
confine pas la démonstration à une série d’opérations sur les nombres. Il s’agit plutôt d’élargir l’opérativité du calcul (poser des chiffres, retenir, passer à la ligne en décalant, etc) à
la démonstration sur des signes mathématiques en général : la validité de ces opérations est
indépendante de la nature des objets qui peuvent être tour à tour des vecteurs, des nombres,
des ensembles, des grandeurs mais aussi des enchaînements logiques tels que les déductions.
Ainsi, la procédure de calcul fournit les instructions pour conduire le calcul et non les règles
du calcul lui-même : en axiomatisant la géométrie, Hilbert définit donc un rôle régulateur
et analytique au champ méta-discursif des mathématiques, ce qui fait de l’axiomatique une
discipline des principes. Mais les conséquences philosophiques sont plus grandes encore : le
point nodal du raisonnement de l’activité mentale scientifique et plus généralement de la
théorie de la connaissance devient le calcul logique comme analyse, composition et déduction de signes. Discipline des principes, la méthode axiomatique est susceptible de fonder
une rigueur également valable dans des champs aussi divers que la géométrie, la physique,
la mécanique l’analyse, etc. En effet, pour Hilbert, l’axiomatique exprime une loi générale
de notre entendement, ce qui justifie le VIe problème mathématique qu’il dessine pour le
XX e siècle dans sa conférence de 1900, à savoir le traitement mathématique des axiomes de
la physique. Les ressources de l’axiomatiques peuvent se manifester dans plusieurs fonctions
distinctes hors de la mathématique qui reconduisent les procédures de calcul actualisées dans
la géométrie axiomatisée. Elles permettent la dissociation des hypothèses, un travail à la fois
sur les théories effectives et sur les théories logiquement possibles, la limitation des démonstrations physiques au champ de la non-contradiction (ce qui prévient l’ajout d’hypothèses
liées à l’expérience), et la vérification du caractère réel ou apparent de l’opposition entre deux
systèmes de principes par axiomatisation des théories qu’on suspecte d’être contradictoires
entre elles 16 .
Conclusion
La réflexion que nous avons menée sur l’axiomatisation de la géométrie, à partir de l’étude
de la relecture par Hilbert de l’œuvre euclidienne, s’inscrit au sein d’un courant des mathématiques né au XIXème siècle : la logique mathématique. Il s’agit d’une discipline méta15. Ce glissement est souligné par par Alain Chauve dans "La philosophie de la démonstration mathématique", philopsis
16. Ces fonctions sont soulignées par Eric Audureau dans Méthode axiomatique et négation chez Hilbert,
Philosophie Scientiæ, 11-2,2007.
18
mathématique qui entend réfléchir sur les mathématiques comme langage, c’est-à-dire entre
autres sur les démonstrations formelles. La logique mathématique a vu le jour comme réponse aux problèmes posés par la crise des fondements, avec l’objectif de redéfinir ce que
doivent être les fondements des mathématiques. Elle est en partie inspirée de la volonté chez
Hilbert de donner un fondement axiomatique à la géométrie. On constate que le geste hilbertien d’axiomatisation de la géométrie s’inscrit dans un vaste projet d’axiomatisation qui
touche plusieurs domaines au XIXème siècle. Citons par exemple l’arithmétique, étudiée par
Peano qui en propose une axiomatisation dans son ouvrage de 1889 intitulé Les principes de
l’arithmétique, nouvelle méthode d’exposition. On pourrait évoquer également les axiomes de
Zermelo complétés par Skolem et Fraenkel pour la théorie des ensembles
Ce travail sur l’axiomatisation de la géométrie peut nous permettre d’insister sur une idée
qui nous semble désormais évidente, mais qui ne l’était pas pendant des siècles : celle de
l’historicité de la logique et de l’historicité des fondements sur lesquels sont censés reposer
la géométrie. Lorsque Euclide présente ses définition, ses postulats et ses axiomes dans les
Éléments, il les pense immuables, et ce en raison même de la nature des choses et de l’esprit
humain. Hilbert, par son axiomatisation de la géométrie, introduit une forme d’arbitraire
dans le choix des fondements de la géométrie. Ce qui importe désormais est la relation entre
les différents axiomes d’un système. On ne peut juger de la vérité ou de la fausseté d’un
axiome pris isolément.
D’autres tentatives d’axiomatisation de la géométrie ont été opérées à la suite d’Hilbert
(bien que poursuivant souvent d’autres objectifs), par le logicien et philosophe polonais Alfred
Tarski 17 par exemple.
17. Granger, Gilles-Gaston et al. 1972 (vol.1) 1974 (vol. 2). Alfred Tarski. Logique, sémantique, métamathématique, 1923-1944, 2 volumes, Paris, Armand Colin.
19