Annexe J Quelques compléments de logique mathématique.

1 21/10/2016 Annexe J. Logique mathématique.
Annexe J
Quelques compléments de logique mathématique.
NB. A côté de questions, que j’espère avoir éclairées, j’en ai rencontré beaucoup
d’autres, auxquelles je n’ai pas de réponse. Elles sont posées, en notes en caractères « arial », à
mesure de leur apparition dans ce « text in progress ». Là où – sans être sûr de la réponse – je
penche d’un côté, je l’indique par un (oui ?) ou un (non ?). Les questions proprement dites sont
mises en italiques. Leur numérotation peut comporter des trous : ils correspondent à des questions
antérieures, qui ont trouvé leur solution.
Je serai reconnaissant à mes lecteurs de me donner (par courriel –
[email protected]) leur point de vue, ou de m’indiquer quelles lectures ils pourraient
me recommander.
Cette annexe « technique » emploie quelques notations courantes en logique et en
analyse : (appartient à)…, (il existe…), (pour tout…), (non…). M a (M est un
modèle de a). Les références de type 14-4B concernent la section 4B du chapitre 14 de « Science et
philosophie ». Comme dans l’ensemble de cet ouvrage, les définitions sont en caractères gras,
mes positions personnelles en caractères Arial. Les * après les noms des auteurs renvoient aux
références à la fin de l’annexe.
Table des matières.
1. La théorie des modèles.
2. La logique du deuxième ordre.
3. Les théorèmes d’incomplétude.
4. L’hypothèse du continu.
5. L’axiome de choix.
6. Les Reverse Mathematics.
7. Les infinis.
Rappelons qu’on désigne par PA1 (PA pour le mathématicien Peano)
l’axiomatisation de l’arithmétique en premier ordre, par PA2 celle en deuxième
ordre.
Cette annexe se propose d’approfondir (ou de présenter de façon plus
technique) divers éléments, assez dispersés, mais dont chacun peut éclairer le
bref chapitre 1 « la logique et les mathématiques » de sp. Malheureusement, le
sujet est malaisé : complexité des définitions et des notations ; accent trop mis
sur l’aspect formel des axiomes, et pas assez sur leur sens profond ; longueur des
démonstrations formelles ; diversité des écoles et obscurité de certaines positions
(par exemple sur les rôles respectifs du deuxième ordre et de la théorie des
ensembles) ; situation intermédiaire entre mathématiques et métamathématique.
Nous n’avons évidemment pas eu la possibilité d’aborder tous les sujets de cette
immense discipline. Si nous avons certainement simplifié certaines questions
subtiles, il nous a semblé, qu’au-delà des variantes, apparaissaient des points
communs.
1. La théorie des modèles.
Elle travaille essentiellement en logique du premier ordre, et arrive à
toute une série de résultats remarquables, dont on trouvera ci-dessous un bref
résumé. Rappelons que, de deux modèles qui satisfont aux mêmes formules du

2 21/10/2016 Annexe J. Logique mathématique.
premier ordre sans variables libres, on dit qu’ils sont élémentairement
équivalents ; on définit parallèlement les extensions élémentaires). Un exemple
concret est fourni par le modèle de l’arithmétique du premier ordre que l’on peut
former en ajoutant aux entiers naturels un nombre plus grand que chacun d’entre
eux (modèle qui prouve que cette arithmétique n’est pas ℵ0 -catégorique)
1
; un
exemple encore plus simple est celui de l’axiomatisation de la seule fonction
successeur : un modèle non-standard en est N +Z. La α-cardinalité est plus forte
que la complétude ; une théorie catégorique, qui n’a pas de modèles finis, est
complète. Les structures ℵ0-catégoriques ont beaucoup de belles propriétés.
- Une théorie est modèle-complète, si toute extension B d’un modèle A
est élémentaire.
- Une propriété est (finiment) axiomatisable, s’il existe une théorie qui
la modélise (finiment) par une formule close.
- Une théorie a l’élimination des quantificateurs, si toute formule est
équivalente à une combinaison de formules atomiques. Exemple, pour les élèves
de première : sur R, x : Ax2 + Bx + C = 0 est équivalent à : B2 - 4AC ≥ 0. Cette
propriété permet d’obtenir des résultats de décidabilité.
- Il existe des cas où il est facile de démontrer qu’une extension T’ (de
deuxième ordre) de T (de premier ordre) est conservative (définition donnée à la
note* de sp) en contraposant : si T ne prouve pas F, alors la complétude du calcul
des prédicats en premier ordre entraîne qu’il existe un modèle de T + ¬F ; ce
modèle peut souvent être prolongé en un modèle de T’ + ¬F).
En algèbre (et dans une moindre mesure pour des théories plus
simples, comme celles de l’ordre), les concepts développés par la théorie des
modèles s’avèrent très éclairants. Des applications intéressantes de la théorie des
modèles ont été trouvées récemment en analyse et en théorie des catégories.
1
Une théorie est dite α-catégorique pour un nombre cardinal α si elle a exactement un
modèle de cardinalité α.

3 21/10/2016 Annexe J. Logique mathématique.
2. Un peu plus sur la logique (les logiques) du deuxième ordre.
Rappelons que cette logique considère deux types de variables : les
éléments et les sous-ensembles d’éléments. Sa syntaxe est identique à celle du
premier ordre. C’est uniquement quand on assigne aux variables du deuxième
type de représenter la totalité des sous-ensembles que sa sémantique diffère de
celle du premier ordre. Les logiques des ordres supérieurs à deux se ramènent
pratiquement à la logique du deuxième ordre. Il y a aussi des logiques
infinitaires, et des logiques où le temps intervient; nous ne les considérerons pas.
Techniquement, il y a plusieurs sémantiques pour la logique du
deuxième ordre. J’en resterai à la plus naturelle, celle « standard » qui,
interprétant les formules du deuxième ordre en parcourant la totalité des objets,
nous assure de la catégoricité.
Il faut, bien entendu, distinguer soigneusement ce qui est exprimable et
ce qui est démontrable en premier ou en deuxième ordre. Le deuxième ordre est
indispensable pour tenir compte de notions essentielles, comme l’infini, le bon
ordre ou la clôture.
Les relations entre deuxième ordre et théorie des ensembles sont
complexes. La notion d’appartenance à un ensemble (x E) et celle - plus
difficile - d’ensemble des parties sont communes à ZFC et à la logique du
deuxième ordre.
A toute théorie T du deuxième ordre, ayant un modèle M, on peut faire
correspondre, dans la théorie ZFC du premier ordre, une formule T(x) signifiant
que M est un modèle de T; et à toute formule Φ de T une formule Φ’ signifiant
que Φ est vrai dans T. Pour fonder arithmétique et analyse, les spécialistes nous
disent qu’on peut se borner à l’ensemble V2ω dans l’emboîtement des modèles
possibles (ce qui correspond encore à une théorie naïve des ensembles). Il y a
lieu en revanche de s’interroger sur l’artifice qui consiste à passer du second
ordre au premier ordre par la substitution, dans les axiomes d’induction d’un «
schéma d’axiomes » au lieu d’axiomes complets (comme G. Kreisel l’a
remarqué, l’évidence d’un tel schéma repose sur celle de l’axiome général du
deuxième ordre, qui lui correspond).
Il est faux que le passage par la théorie des ensembles assure, en
premier ordre, la catégoricité de N ou de R. Elle ne vaut qu’à l’intérieur d’un
modèle de ZFC, elle-même incomplète.
2
2
Citons encore la position originale de J. Hintikka. Sa partie critique est assez proche de la mienne : la
théorie des ensembles, plus incertaine que l’arithmétique élémentaire, ne saurait lui servir de fondement.
Le deuxième ordre fait trop appel aux notions ensemblistes pour pouvoir en être dissocié.
Hintikka constate que certaines propositions logiques ne se prêtent pas à une expression en premier ordre
(techniquement, il s’agit – en particulier en combinatoire – de propositions contenant des alternances de
quantificateurs existentiels et universels ; les difficultés apparaissent quand on veut les traduire en
deuxième ordre à l’aide de “fonctions de Henkin”; il n’est pas toujours possible d’indiquer de quelles
variables exactes ces fonctions dépendent. Hintikka substitue donc à la logique ordinaire du premier ordre
une logique nouvelle “IF-premier ordre” surmontant ces obstacles (IF pour « independence-friendly
logic). Il estime que cette logique a de nombreux avantages : la vérité (pour moi, plutôt la prouvabilité) s’y
exprime par une formule du même langage ; des “jeux de vérité” permettent de la rechercher. Restant du
premier ordre, sa logique évite ce recours critiqué aux notions ensemblistes. Plusieurs des qualités bien
connues du premier ordre (compacité, Löwenheim-Skolem, théorème de séparation…) y restent valables.
Malheureusement, le tiers exclu ne s’y applique plus. Mais Hintikka montre que sa logique est assez proche
des logiques du deuxième ordre « Σ11 », qui l’admettent.

4 21/10/2016 Annexe J. Logique mathématique.
Quelques mots sur les autres logiques. Les complexes logiques
modales voudraient traiter du possible, mais c’est une notion philosophique,
étroitement liée à nos conceptions du déterminisme, du hasard, de la liberté ; il
est bien préférable d’aborder ces problèmes directement, avec notre logique
ordinaire, avec l’avantage supplémentaire de minimiser les sophismes de la
contrefactualité (cf. 12-2). De même, le réel de la physique quantique, si
différent du réel de l’échelle humaine, n’a pas besoin d’une logique quantique
pour être analysé (cf. 5-5B).
De même enfin, la logique linéaire peut traiter certains problèmes de
ressources, mais ils s’expriment déjà aisément en logique classique.
Second ordre et axiomes de compréhension.
La théorie des ensembles pose d’abord les axiomes courants
définissant paire, union, sous-ensembles, ensemble des parties. Simpson
introduit ensuite des axiomes de compréhension, de complexité juste adaptée
au sous-système arithmétique qu’il étudie. Par là, il définit des ensembles
correspondant aux différentes fonctions arithmétiques, et c’est par
l’application des axiomes des ensembles qu’il prouve ses théorèmes. Un
paradoxe est que le choix, vu plus haut, de travailler en deuxième ordre, me
semblait motivé par le souci de partir d’une conception simple et intuitive
des entiers, alors que – sans nécessité – S. repart de la théorie des
ensembles. Appelons « ensemble naïf » un ensemble de nombres défini par
une formule arithmétique ; il est évident que de tels ensembles possèdent les
propriétés correspondant aux axiomes de la théorie abstraite (par exemple,
pour les deux formules : (n, f(n)) et (n, g(n)), l’union des deux ensembles
d’entiers auxquels correspondent respectivement f et g est l’ensemble défini
par la formule : (n, (f(n) ou g(n)).
Ceci est évidemment en pleine contradiction avec l’esprit des
« reverse mathematics ». Pourquoi imposerais-je à mes raisonnements des
limitations non justifiées ?

Annexe Page 5 Révision du 21/10/2016
3. Les théorèmes d’incomplétude.
En arithmétique, la difficulté de comprendre le vrai va se situer, comme
nous l’avons esquissé dans sp-1, au niveau des propositions gödéliennes.
3
En
premier ordre, vrai et démontrable sont encore équivalents pour les formules
indéfinies « existentielles » ( p, A(n, p)) : pour en démontrer une, si elle est
vraie, il suffit de remonter la succession des entiers pour trouver le premier p
satisfaisant à la formule. Ce point va être utilisé dans les raisonnements subtils,
analysant les liens complexes entre vrai, démontrable et consistant, qui
aboutissent à la formule de Gödel. Partons du théorème de Church : la formule
existentielle ( x T[a, a, x]) est indécidable par les méthodes récursives. Dans
PA1, il correspond biunivoquement à cette « formule informelle », une formule
codée Ca. Si la formule existentielle « x T(a, a, x) » est vraie, elle est
démontrable, donc Ca est elle aussi démontrable. On définit ensuite une
machine de Turing, indexée par p, trouvant (quand elle existe) une
démonstration de Ca (ainsi x T(p, a, x) équivaut à dire : Ca est prouvable
dans l’arithmétique). A partir de là, une analyse implacable se porte sur Cp (la
proposition de Gödel). La clé en est l’étude de la proposition « positive » x
T(p, p, x) : on montre successivement qu’elle entraîne son contraire, donc – si
PA1 est cohérent – qu’elle est fausse, donc que son contraire est vrai, donc que
Cp, qui en dérive, est vrai. Enfin le sens de Cp est qu’elle n’est pas
démontrable (on voit l’analogie avec le paradoxe du menteur, mais les
imprécisions du langage courant ont disparu dans la formulation
mathématique). Bien entendu, toujours par la cohérence, Cp n’est pas non plus
démontrable. Ainsi, Cp n’est, ni réfutable, ni démontrable. PA1 n’est pas
complet.
La contradiction apparente, entre affirmer la vérité d’une proposition et
affirmer l’impossibilité de la démontrer, se lève quand on remarque que l’on
supposait la consistance de l’arithmétique. C’est aussi par là que l’on obtient le
deuxième théorème de Gödel : PA1 ne peut pas démontrer sa propre consistance,
sauf s’il est inconsistant.
La formule de Gödel, dépendant d’un codage, est artificielle et, par une
sorte d’imprédicativité, dit encore quelque chose sur elle-même ! Les
spécialistes ont donc élaboré des formules, vraies et non prouvables, de plus en
plus naturelles (donc de plus en plus inquiétantes), pour la remplacer.
En deuxième ordre, beaucoup de théories sont catégoriques ; le
tiers exclu, appliqué à leur unique modèle, exige que toute proposition y soit
3
Nous ne pouvons pas ici échapper à un exposé assez technique, qui suit l’excellent traité de S. Kleene,
toujours actuel. La présentation part des machines de Turing ; elle équivaut à celle de Gödel, mais est plus
simple. Rappelons que la formule T(i, a, x) signifie : i est l’index d’une machine de Turing qui,
appliquée à l’argument a, terminera à l’instant x le calcul d’une valeur « φi(a) ».
Nous introduirons aussi quelques définitions essentielles. Un ensemble d’entiers est récursif, si sa fonction
caractéristique est totale, récursivement énumérable si sa fonction caractéristique est partielle. Le
récursivement énumérable correspond aux formules existentielles. On peut montrer, de l’ensemble ( x T[a,
a, x]), typique des ensembles créatifs), qu’il est récursivement énumérable, mais non récursif. La
démonstration suppose qu’il existe un programme pour en décider, et montre, par des arguments diagonaux,
l’endroit où ce programme défaille. La thèse de Church assimile calculabilité « intuitive » à la notion
précise de fonction récursive.