Foncteurs analytiques et Logique linéaire

Universit´e Paris 7 – Denis-Diderot
MPRI 2006
Rapport de M2
Foncteurs analytiques et
Logique lin´ eaire
stage effectu´e par
Christine Tasson
sous la direction de Pierre-Louis Curien et Thomas Ehrhard

Je tiens `a remercier outre mes directeurs de stage, Martin Hyland et Paul-Andr´e
Melli`es qui ont su prendre du temps pour r´epondre `a mes questions.
1

Table des mati`eres
Introduction 4
1 Etude des foncteurs analytiques 11
1.1 D´efinitions et premi`eres propri´et´es . . . . . . . . . . . . . . . . . 11
1.1.1 D´efinitions . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.1.2 Propri´et´es de pr´eservation . . . . . . . . . . . . . . . . . . 12
1.2 Quelques outils . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.2.1 Cat´egorie des ´el´ements . . . . . . . . . . . . . . . . . . . . 16
1.2.2 Hypoth`ese suppl´ementaire . . . . . . . . . . . . . . . . . . 17
1.2.3 Minimaux et supports . . . . . . . . . . . . . . . . . . . . 17
1.2.4 Weak Normal Form (WNF) et g´en´eriques . . . . . . . . . 19
2 Propri´et´es des foncteurs analytiques 27
2.1 Caract´erisation des foncteurs analytiques . . . . . . . . . . . . . 27
2.1.1 Le th´eor`eme . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.1.2 Son interpr´etation . . . . . . . . . . . . . . . . . . . . . . 29
2.2 Unicit´e du d´eveloppement en s´erie de Taylor . . . . . . . . . . . . 30
2.3 Op´erations classiques sur les foncteurs analytiques . . . . . . . . 31
2.3.1 Somme . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.3.2 Produit fini . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.3.3 Quotient . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.3.4 Colimite filtr´ee . . . . . . . . . . . . . . . . . . . . . . . . 38
2.3.5 La composition . . . . . . . . . . . . . . . . . . . . . . . . 40
2.4 Op´erations sp´ecifiques `a notre ´etude . . . . . . . . . . . . . . . . 41
2.4.1 Le second ordre . . . . . . . . . . . . . . . . . . . . . . . . 41
2.4.2 Le point fixe . . . . . . . . . . . . . . . . . . . . . . . . . 47
3 Le mod`ele relationnel du second ordre. 51
3.1 Foncteurs stables ou foncteur analytiques ? . . . . . . . . . . . . 51
3.1.1 Foncteurs stables . . . . . . . . . . . . . . . . . . . . . . . 51
3.1.2 Deux notions diff´erentes . . . . . . . . . . . . . . . . . . . 53
3.2 Le mod`ele relationnel du second ordre . . . . . . . . . . . . . . . 60
3.2.1 La logique lin´eaire du second ordre . . . . . . . . . . . . . 60
3.2.2 Le mod`ele relationnel . . . . . . . . . . . . . . . . . . . . 61
3.2.3 Interpr´etation des formules . . . . . . . . . . . . . . . . . 61
3.2.4 Construction d’op´erations . . . . . . . . . . . . . . . . . . 62
3.2.5 Interpr´etation des preuves . . . . . . . . . . . . . . . . . . 64
2

4 Lien avec les faisceaux 66
4.1 Cotopologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.2 Faisceaux ou foncteurs stables ? . . . . . . . . . . . . . . . . . . . 67
Conclusion 73
A Rappels cat´egoriques 74
A.1 Cat´egories . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
A.2 Foncteurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
A.3 Colimites filtr´ees . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
A.4 Produits fibr´es . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
B Autres d´efinitions des foncteurs analytiques 78
B.1 D´efinition via les extensions de Kan . . . . . . . . . . . . . . . . 78
B.2 D´efinition via les sous-groupes de Sn. . . . . . . . . . . . . . . . 80
3

Introduction
La s´emantique d´enotationnelle
La s´emantique d´enotationnelle est l’´etude math´ematique des langages de pro-
grammation et de leur compilation 1.
Formellement, on associe `a un programme une fonction qui va de l’ensemble
mod´elisant les arguments du programme vers l’ensemble mod´elisant ses r´esul-
tats. Ici, on ´etudie les programmes et le type (entier, flottant, fonction...) des
arguments et des r´esultats. Par exemple, on peut associer `a un programme qui
prend deux arguments de type entier et renvoie leur somme de type entier, la
fonction sum :N×N→N. Si cette abstraction est un bon mod`ele, son ´etude
math´ematique pourra donner des informations sur les propri´et´es du programme
et de sa compilation.
Le mˆeme objet est utilis´e pour mod´eliser le programme ou son type. On parlera
respectivement de s´emantique des termes ou de s´emantique des types.
Les mod`eles classiques
De nombreux travaux en semantique d´enotationnelle ont ´et´e consacr´es `a la mo-
d´elisation d’un langage de programmation simplifi´e appel´e PCF (une extension
du lambda-calcul simplement typ´e obtenue en ajoutant les points fixes). Dans
ce langage, les programmes sont appel´es des termes.
On peut citer comme exemples :
•Le mod`ele des domaines de Scott et des fonctions continues, dans lequel les
types sont mod´elis´es par des cpo (i.e. des ensembles dont les parties dirig´ees
poss`edent une borne sup´erieure2) et les termes sont interpr´et´es par des fonc-
tions continues (i.e. des fonctions monotones qui pr´eservent les sups filtrants).
La notion de continuit´e sert `a traduire une propri´et´e simple des programmes.
Etant donn´e un argument, on dit qu’un programme termine s’il calcule le
r´esultat en un temps fini. Dans ce cas, il n’a besoin que d’une quantit´e finie
de l’information contenue dans l’argument. Ceci se traduit par :
Soient xun argument, fun programme. Pour tout bfini tel que f(x)≥b, il
existe x0⊆xfini tel que f(x0)≥b.
•Le mod`ele des domaines de Berry et des fonctions stables, dans lequel les
types sont mod´elis´es par des dI-domaines (i.e. un cas particulier de cpo) et
1Cours d’introduction aux Mod`eles des langages de programmation - MPRI 2005.
2On appelle sup filtrant une telle borne.
4