Théorie axiomatique des ensembles

TH´ EORIE AXIOMATIQUE DES
ENSEMBLES
PATRICK DEHORNOY
Table des mati` eres
1. Axiomatisation du type ensemble 1
1.1. Le type ensemble 1
1.2. Probl`emes ensemblistes 2
1.3. D´efinir les ensembles ? 3
1.4. Premi`ere ´ebauche 3
1.5. Paradoxes 4
1.6. Le syst`eme de Zermelo 4
1.7. Le syst`eme de Zermelo–Fraenkel 5
2. D´eveloppement de la th´eorie des
ensembles 6
2.1. Les ordinaux 6
2.2. Repr´esentation par des
ensembles 7
2.3. La th´eorie des ensembles comme
th´eorie des fondements 7
2.4. Non-contradiction de ZFC : les
limites 8
3. R´esultats d’ind´ependance relative 8
3.1. Cardinaux et continu 9
3.2. Exponentiation cardinale 9
3.3. G¨odel et Cohen 10
3.4. La notion de mod`ele de ZFC 11
3.5. Mod`eles int´erieurs 12
3.6. Extensions g´en´eriques 13
4. Au-del`a du syst`eme ZFC 14
4.1. Grands cardinaux 14
4.2. Mod`eles canoniques 16
4.3. La d´etermination projective 17
4.4. Le programme de Woodin 18
Bibliographie 20
La th´eorie des ensembles est la branche
des math´ematiques qui ´etudie les ensembles,
sp´ecialement les ensembles infinis, `a la fa¸con
dont l’arithm´etique ´etudie les nombres en-
tiers et la g´eom´etrie les points, les droites
et les cercles. Elle est apparue `a la fin
du XIXe si`ecle avec les travaux de Can-
tor, et a donn´e lieu depuis cette ´epoque `a
un d´eveloppement remarquable qui en fait
aujourd’hui l’une des branches les plus so-
phistiqu´ees. Plac´ee un temps `a la base de
l’´edifice math´ematique en raison de la pos-
sibilit´e d’y repr´esenter la plupart des objets
usuels, la th´eorie des ensembles occupe au-
jourd’hui une position plus discr`ete, notam-
ment parce que ses applications aux autres
domaines demeurent relativement modestes.
Pour autant, l’importance de ses enjeux intel-
lectuels reste intacte, et les r´ecentes avanc´ees
en direction d’une solution au probl`eme du
continu constituent des r´esultats fascinants
tant pour le math´ematicien que pour le phi-
losophe.
Historiquement, la th´eorie des ensembles
a connu des p´eriodes bien distinctes qui
structureront notre pr´esentation : mise en
forme progressive d’une th´eorie de 1880 `a
1920, passage `a la notion de mod`ele de
ZFC et r´esultats d’ind´ependance relative
dans les ann´ees 1930 `a 1960, apparition de
nouveaux axiomes depuis les ann´ees 1970,
´emergence d’une vision nouvelle dans les
ann´ees r´ecentes.
1. Axiomatisation du type ensemble
Elaborer une th´eorie des ensembles con-
siste `a analyser les propri´et´es de ceux des ob-
jets math´ematiques qui sont des ensembles.
Comme d´efinir les ensembles `a partir d’ob-
jets plus primitifs est malais´e, on adopte
en g´en´eral une approche axiomatique. Les
premi`eres tentatives, `a la fin du XIXe si`ecle,
ayant men´e `a des difficult´es logiques, le
syst`eme a ´et´e progressivement affin´e, pour
aboutir au syst`eme ZFC qui est le point de
d´epart le plus commun´ement accept´e aujour-
d’hui.
1.1. Le type ensemble. Certains objets
math´ematiques sont d´efinis individuelle-
ment : le nombre 5, la fonction cosi-
nus. D’autres sont introduits collectivement
1

2 PATRICK DEHORNOY
par une propri´et´e qui ne les sp´ecifie pas
enti`erement : les racines de l’´equation x2=1,
les fonctions d´erivables. Dans ce cas, on
peut restaurer l’unicit´e en introduisant sous
le nom d’ensemble les objets collective-
ment sp´ecifi´es, chacun des objets individuels
concern´e ´etant alors appel´e ´el´ement de l’en-
semble associ´e : l’ensemble des racines de
l’´equation x2= 1, l’ensemble des fonctions
d´erivables. L’´equation x2= 1 admettant les
deux racines enti`eres +1 et −1, on ne peut
parler de «la»racine ; par contre, on peut
parler de fa¸con non ambigu¨e de l’ensemble
des solutions, dont +1 et −1 sont les deux
´el´ements.
On pourrait identifier un ensemble avec
la propri´et´e qui lui donne naissance, de
sorte que des propri´et´es ´equivalentes mais
distinctes produiraient des ensembles dis-
tincts. Ce n’est pas l’approche retenue : par
exemple, les racines de x2= 1 sont aussi
les entiers non nuls compris entre −1 et +1,
et on consid`ere que ces propri´et´es d´efinissent
un seul ensemble. Autrement dit, l’ensemble
fait abstraction de la propri´et´e pour ne re-
tenir que les ´el´ements qui la satisfont. Un
ensemble est donc d´etermin´e par la liste de
ses ´el´ements, et une fa¸con de le sp´ecifier
est de donner celle-ci explicitement. On note
{a1, ..., an}l’ensemble dont les ´el´ements sont
a1,..., an: par exemple, l’ensemble {−1,+1},
qui est aussi {+1,−1}, a deux ´el´ements, `a sa-
voir les nombres −1 et +1, et il est `a la fois
l’ensemble des racines de x2= 1, l’ensemble
des entiers relatifs non nuls compris entre
−1 et +1, et poss`ede encore bien d’autres
d´efinitions.
Comme le montrent les textes math´emati-
ques, il est depuis longtemps apparu com-
mode d’utiliser un vocabulaire ensembliste,
en particulier parce que celui-ci permet d’ex-
primer des propri´et´es collectives qui ne font
pas sens au niveau des ´el´ements individuels.
1.2. Probl`emes ensemblistes. Il ne suffit
pas qu’une notion soit commun´ement uti-
lis´ee pour qu’il soit n´ecessaire d’en ´elaborer
une th´eorie : il n’existe `a ce jour aucune
th´eorie g´en´erale des suites, bien que celles-
ci soient d’un usage tr`es r´epandu. Ce qui
a rendu naturelle, voire indispensable, la
cr´eation d’une th´eorie des ensembles, c’est
l’apparition, `a la fin du XIXe si`ecle, de
probl`emes sp´ecifiques mettant en jeu des en-
sembles, plus pr´ecis´ement des ensembles infi-
nis, devant lesquels les techniques de l’´epoque
restaient inefficaces. On verra qu’un si`ecle
plus tard certains de ces probl`emes restent
ouverts, mais qu’en mˆeme temps leur ´etude
s’est r´ev´el´ee extraordinairement f´econde.
Grossi`erement, il existe deux types de
probl`emes ensemblistes : les probl`emes `a
un ensemble, o`u on se demande si tel ou
tel ensemble existe ou est non vide, et les
probl`emes `a deux ensembles, o`u il s’agit
de mettre en relation deux ensembles sup-
pos´es existants. Pour ces derniers, comme au-
cune structure additionnelle n’est prise en
compte, la seule relation naturelle est la
comparaison des tailles, qu’on formalise `a
l’aide des notions de bijection et d’injection :
deux ensembles A, B sont de mˆeme taille
s’il existe une correspondance bijective entre
leurs ´el´ements, et, de mˆeme, Aest de taille au
plus celle de Bs’il existe une injection de A
dans B. Dans le cas des ensembles finis, on
sait qu’on obtient une classification compl`ete
`a l’aide d’un unique nombre naturel, le car-
dinal ou nombre d’´el´ements.
C’est lorsqu’on cherche `a ´etendre cette
classification aux ensembles infinis que les
probl`emes arrivent et que le besoin d’une
th´eorie apparaˆıt. Le point de d´epart est la
d´emonstration par Georg Cantor en 1873 du
r´esultat qu’il ne peut exister de surjection
de l’ensemble Ndes entiers naturels sur l’en-
semble Rdes nombres r´eels, et qu’il existe
donc au moins deux tailles d’infini distinctes.
Par la suite, en montrant que, quel que soit
l’ensemble A, il n’existe pas de surjection
de Asur l’ensemble des parties de A, Can-
tor ´etablit l’existence d’une infinit´e de tailles
d’infini. Par contre, il buta tr`es vite sur le
probl`eme dit du continu :
•Existe-t-il des tailles interm´ediaires
entre celle de N(appel´ee le d´enombrable) et
celle de R(appel´ee le continu) ?

TH´ EORIE AXIOMATIQUE DES ENSEMBLES 3
Soit encore, de fa¸con ´equivalente : Tout
sous-ensemble non d´enombrable de Rest-
il en bijection avec R? L’hypoth`ese du
continu est l’affirmation d’une r´eponse po-
sitive `a cette derni`ere question. Cantor la
croyait vraie, mais n’a pu le d´emontrer, et
le probl`eme apparaˆıt en tˆete de la fameuse
liste propos´ee par Hilbert en 1900. Dans
une large mesure, le probl`eme du continu a
´et´e le fil conducteur du d´eveloppement de
la th´eorie des ensembles au cours du XXe
si`ecle, et continue `a l’ˆetre aujourd’hui. On
verra ci-dessous les principales ´etapes de ce
d´eveloppement, et en particulier les diff´erents
points de vue `a partir desquels la question a
´et´e abord´ee.
1.3. D´efinir les ensembles ? Une fois
constat´es le caract`ere utile de la notion
d’ensemble et l’´emergence de probl`emes
sp´ecifiques apparemment difficiles, il est
l´egitime d’en d´evelopper une th´eorie — et
c’est ce qui a ´et´e fait `a partir de la fin
du XIXe si`ecle et des travaux pionniers de
Cantor, Bernstein, Schr¨oder, Zermelo, Frege,
Skolem, entre autres.
Toute th´eorie n´ecessite un point de d´epart,
fixant des r`egles du jeu et d´efinissant les
objets de base. Dans le cas des ensembles,
une d´efinition est possible `a partir des fonc-
tions indicatrices : par exemple, un ensemble
d’entiers peut ˆetre d´efini comme une fonc-
tion prescrivant, pour chaque entier, s’il ap-
partient ou non `a l’ensemble consid´er´e. Ce
style de d´efinition est utilis´e dans les lan-
gages de programmation pour introduire,
pour chaque type d’objet τ, en particulier
pour les types ´enum´er´es, un type «ensemble
de τ». D’un point de vue th´eorique, les limi-
tations de cette approche sont importantes.
Outre qu’elle fait reposer la construction
des ensembles sur celle des fonctions, elle se
prˆete mal `a l’´etude d’ensembles g´en´eraux, et
semble peu apte `a ´eclairer les questions ou-
vertes.
Une approche alternative consisterait `a
d´efinir un ensemble comme classe d’´equivalen-
ce de propri´et´es math´ematiques. Bien adapt´ee
dans le cas de types sp´ecifiques, par exemple
les ensembles d’entiers, cette approche pose
des probl`emes difficiles dans le cas g´en´eral,
en particulier quant `a la nature des objets
consid´er´es.
D´efinir les ensembles apparaissant ma-
lais´e, comme il est fr´equent avec des objets
tr`es basiques, on recourt `a la solution alter-
native usuelle : renoncer `a d´efinir les objets,
et se contenter d’en recenser les propri´et´es de
base pour ensuite explorer les cons´equences
de celles-ci prises comme point de d´epart
axiomatique. On ´elude ainsi la question de la
nature des objets, pour se concentrer exclusi-
vement sur leur comportement. Par exemple,
on sait qu’on peut d´evelopper l’arithm´etique
sur la seule base que les entiers satisfont aux
axiomes de Peano, ou, de mˆeme, d´evelopper
la g´eom´etrie plane sur la seule base que
les points et les droites satisfont aux axio-
mes d’Euclide. C’est ce type d’approche qui
est usuellement adopt´e pour les ensembles,
constituant ainsi le point de d´epart d’une
th´eorie axiomatique des ensembles.
1.4. Premi`ere ´ebauche. A la diff´erence
des axiomes de Peano, point de d´epart usuel
pour l’arithm´etique, qui sont facilement in-
telligibles, les axiomes de Zermelo–Fraenkel,
qui constituent le point de d´epart usuel pour
la th´eorie des ensembles, peuvent apparaˆıtre
compliqu´es, sinon artificiels. En fait, ces axio-
mes sont l’aboutissement d’ajustements suc-
cessifs, et il est probablement utile d’avoir
une id´ee des ´etapes du processus pour se per-
suader de leur caract`ere finalement tr`es na-
turel. N´eanmoins, un lecteur press´e peut ad-
mettre qu’il existe (au moins) une fa¸con sa-
tisfaisante d’axiomatiser les ensembles, `a sa-
voir le syst`eme ZFC, et ignorer la suite de ce
chapitre.
Si on adopte le point de vue platoni-
cien dont de nombreux math´ematiciens se
sentent proches, choisir des axiomes pour
un type d’objet consiste `a explorer l’intui-
tion que nous en avons et `a la formaliser
dans un langage convenable. Dans le cas
des ensembles, l’analyse ci-dessus sugg`ere
deux principes, `a savoir un principe d’uni-
cit´e (dit d’extensionnalit´e) : un ensemble est
d´etermin´e par ses ´el´ements, et un principe
d’existence (dit de compr´ehension) : toute

4 PATRICK DEHORNOY
propri´et´e P(x) donne naissance `a un en-
semble, l’ensemble des xsatisfaisant P(x),
not´e {x;P(x)}. Noter que la compr´ehension
inclut la possibilit´e de d´efinir un ensemble
par extension : l’ensemble {a1, ..., an}est
d´efini en compr´ehension par la propri´et´e
«x=a1ou ... ou x=an».
Noter ´egalement que les principes pr´ec´e-
dents se formalisent comme des axiomes por-
tant sur la seule relation d’appartenance ∈,
l’extensionnalit´e s’exprimant par
∀A∀B(∀x(x∈A⇔x∈B)⇒A=B),
et la compr´ehension pour une propri´et´e Ppar
∀p1...∀pn∃A∀x(x∈A⇔ P(x, p1, ..., pn))
o`u on a fait apparaˆıtre d’´eventuels pa-
ram`etres figurant dans P. La r`egle du jeu
est alors d’´etudier les objets dont les axiomes
pr´ec´edents donnent les propri´et´es de d´epart
et, notamment, `a chercher s’il est possible de
r´esoudre le probl`eme du continu `a partir de
ces bases.
1.5. Paradoxes. Des difficult´es surgissent
rapidement. La premi`ere est illustr´ee par
le paradoxe de Berry. Soit P(x) la pro-
pri´et´e : «xest un entier naturel pouvant
ˆetre d´efini par une phrase fran¸caise d’au plus
cent caract`eres». L’axiome de compr´ehension
pour Paffirme l’existence d’un ensemble A
compos´e des entiers xsatisfaisant P(x).
Comme le nombre de phrases fran¸caises d’au
plus cent caract`eres est fini, l’ensemble Aest
fini, et il existe donc un plus petit entier non
dans A. Cet entier Nest le plus petit entier
ne pouvant ˆetre d´efini par une phrase d’au
plus cent caract`eres. Or, ce qui pr´ec`ede est
une d´efinition de Npar une phrase fran¸caise
d’au plus cent caract`eres. L’existence de N,
et de l`a celle de l’ensemble A, sont donc
contradictoires : le syst`eme form´e de l’axiome
d’extensionnalit´e et de tous les axiomes de
compr´ehension est incoh´erent, et il faut le
modifier.
La solution naturelle est d’attribuer le pa-
radoxe au flou de la notion de propri´et´e, et de
l’´eliminer en restreignant la port´ee des axio-
mes de compr´ehension `a celle des propri´et´es
qui peuvent ˆetre exprim´ees par des formules
d’une logique restant `a pr´eciser. Le paradoxe
de Berry se r´eduit alors au fait, intuitif, que la
d´efinissabilit´e par une phrase fran¸caise n’est
pas formalisable.
Mais une seconde difficult´e apparaˆıt avec
le paradoxe de Russell. Quelle que soit la lo-
gique retenue, x /∈xa toutes les chances
d’une formule l´egitime. Or soit Al’ensemble
de tous les xsatisfaisant x /∈x. Alors A∈A
est impossible, puisqu’impliquant A /∈Apar
d´efinition de A, et A /∈Al’est ´egalement,
puisqu’impliquant de mˆeme A∈A. L’exis-
tence de l’ensemble Aest donc une hy-
poth`ese contradictoire, et le syst`eme form´e
de l’axiome d’extensionnalit´e et des axiomes
de compr´ehension associ´es `a toute logique o`u
x /∈xest une formule l´egitime n’est pas te-
nable.
Plusieurs solutions sont possibles. L’une
est d’attribuer le paradoxe de Russell `a la
pr´esence de ∈, et de bannir ce symbole des
axiomes de compr´ehension. Ceci m`ene `a dis-
tinguer divers types d’objets, ´el´ements, en-
sembles, ensembles d’ensembles... Cette ap-
proche de th´eorie des types est fructueuse,
mais, pour le moment, elle n’a men´e qu’`a
peu de r´esultats pour l’´etude des ensembles.
Une autre solution est d’attribuer le para-
doxe de Russell `a la trop grande taille de la
collection consid´er´ee : il y a trop d’objets x
satisfaisant x /∈xpour que ceux-ci forment
un ensemble. On peut ´eviter le probl`eme
en substituant au principe de compr´ehension
celui de s´eparation, l’axiome de s´eparation
pour une formule F(x) ´etant l’affirmation
que, pour tout ensemble A, il existe un en-
semble form´e par les ´el´ements de Aqui satis-
font F(x). Noter que la s´eparation pour F(x)
est une forme particuli`ere de compr´ehension,
`a savoir la compr´ehension pour la formule
x∈Aet F(x) o`u la variable xest born´ee
par l’ensemble A.
1.6. Le syst`eme de Zermelo. Ce faisant,
on se met `a l’abri du paradoxe de Russell :
dans le nouveau syst`eme r´eduit `a l’exten-
sionnalit´e et la s´eparation, celui-ci se tra-
duit simplement par le fait qu’il n’existe pas
d’ensemble de tous les ensembles. Mais, en
renon¸cant `a la compr´ehension g´en´erale, on

TH´ EORIE AXIOMATIQUE DES ENSEMBLES 5
n’est plus assur´e de l’existence d’aucun en-
semble : la s´eparation ne permet que de
construire de nouveaux ensembles `a partir
d’anciens, et mˆeme les d´efinitions en exten-
sion ne sont pas l´egitim´ees. On r´eintroduit
donc des axiomes de compr´ehension parti-
culiers, suffisamment peu pour esp´erer obte-
nir un syst`eme non contradictoire, mais suf-
fisamment n´eanmoins pour garantir l’exis-
tence de tous les ensembles que la pratique
math´ematique r´eclame. Pour cela, on ajoute
les axiomes dits de la paire, de l’union, et
des parties, qui affirment respectivement que,
quels que soient aet b, il existe un en-
semble dont les ´el´ements sont aet b, un
autre dont les ´el´ements sont les ´el´ements des
´el´ements de a(c’est-`a-dire qui est l’union de a
consid´er´e comme ensemble d’ensembles), et
enfin un troisi`eme dont les ´el´ements sont les
parties de a, c’est-`a-dire les ensembles dont
tous les ´el´ements sont ´el´ements de a.
En un sens pouvant ˆetre rendu pr´ecis, le
syst`eme obtenu `a ce point, compos´e des axio-
mes d’extensionnalit´e, de s´eparation, de la
paire, de l’union et des parties, est, lorsqu’on
le compl`ete d’un axiome affirmant l’existence
de l’ensemble vide, ´equivalent au syst`eme
de Peano pour l’arithm´etique. Or l’usage
math´ematique, et l’intuition qui l’accom-
pagne, recommandent encore l’introduction
d’ensembles infinis que le syst`eme pr´ec´edent
ne permet pas de construire. On ajoute donc
un nouvel axiome, dit de l’infini, affirmant
l’existence d’au moins un ensemble infini —
ce qui rend superflu un axiome posant l’exis-
tence de l’ensemble vide, laquelle se d´eduit
alors par exemple de l’axiome de s´eparation
associ´e `a la formule x6=x.
Pour ˆetre compl`ete, la description doit
encore pr´eciser le type de formule mis en
jeu dans les axiomes de s´eparation, en par-
ticulier les relations et op´erations pouvant
y figurer. L’option retenue est spartiate :
les seules formules autoris´ees sont les for-
mules du premier ordre — c’est-`a-dire les
formules math´ematiques usuelles, quantifica-
tions comprises — ´ecrites `a partir de la seule
relation d’appartenance. Donc, en particu-
lier, tout axiome de s´eparation pour une for-
mule o`u figureraient des entiers ou des r´eels
est a priori ill´egitime. On verra plus loin que
cette restriction ne limite pas vraiment le
champ de la th´eorie, l’option se trouvant ainsi
justifi´ee a posteriori. Par contre, on montre
qu’il est l´egitime d’utiliser dans les formules
de s´eparation toutes les notions pouvant ˆetre
d´efinies `a partir de l’appartenance, telles l’in-
clusion ⊆, l’union ∪ou l’ensemble des par-
ties P. Le syst`eme ainsi obtenu est appel´e
syst`eme de Zermelo.
1.7. Le syst`eme de Zermelo–Fraenkel.
Le syst`eme de Zermelo permet de rendre
compte de l’existence de la plupart des en-
sembles utiles `a la pratique math´ematique,
et il offre un cadre axiomatique satis-
faisant pour fonder une th´eorie des en-
sembles. N´eanmoins le d´eveloppement de
cette derni`ere a conduit `a amender encore le
syst`eme en lui ajoutant plusieurs nouveaux
axiomes, qu’on va d´ecrire maintenant, pour
parvenir au syst`eme ZFC.
Soit Aun ensemble. Par l’axiome de la
paire, il existe pour chaque ´el´ement xde A
un singleton {x}. Peut-on affirmer l’existence
d’un ensemble Bform´e par les ensembles {x}
pour xdans A? Comme l’op´eration { } sort
de A, il n’est pas clair que les axiomes pos´es
`a ce point garantissent l’existence d’un en-
semble contenant tous les ensembles {x}sou-
hait´es. Or, dans la mesure o`u le paradoxe
de Russell est attribu´e `a la taille excessive
d’un ensemble de tous les ensembles et o`u on
ne cherche `a ´ecarter que les collections trop
grandes, il est naturel d’admettre l’existence
d’un ensemble tel que Bci-dessus, puisque
celui-ci n’a pas plus d’´el´ements que A. Dans
le cas de B, il n’y a en fait pas de probl`eme,
mais, pour couvrir tous les cas similaires, on
adjoint une nouvelle famille d’axiomes, dits
de remplacement, affirmant que, si F(x, y) est
une formule fonctionnelle, c’est-`a-dire telle
que, pour chaque xil existe au plus un y
v´erifiant F(x, y), alors l’image par Fd’un en-
semble est un ensemble.