Information, Calcul et Communication

ICCModule1Leçon3– ThéorieduCalcul
Information, Calcul et Communication
Théorie du Calcul (3)
Bernard Moret
les modifications de R. Boulic sont basées sur:
"Computer Science, an overview" de G. Brookshear, Pearson
Cours de J-P Delahaye, Univ. de Lille
Cours de M. Betrema, Univ. de Bordeaux
ICCModule1Leçon3– ThéorieduCalcul
Objectif du cours d’aujourd’hui
Etudier
les deuxgrandesquestions de la théorie ducalcul:
◮que peut‐onrésoudre avec unalgorithme?
◮que peut‐onrésoudre efficacementavec unalgorithme?
etles connexionsavec
◮lesmathématiques,
◮l’information,
◮lacommunication.
Objectifs et Plan 3 / 34
ICCModule1Leçon3– ThéorieduCalcul
Plan du cours d’aujourd’hui
◮Données+ Question = Problème
◮L’ i n fin i etl’énumération.
◮L’incalculable surla diagonale.
◮Problèmesdedécision
◮AutoréférenceetProblèmedel'arrêt
‐‐
◮Prendre lamesure des problèmes.
◮Calculerla réponse.
◮Vérifier lasolution.
◮Conclusions
Objectifs et Plan 4 / 34
ICCModule1Leçon3– ThéorieduCalcul
Des données et une question
Enleçons1et2nousavonsvudesalgorithmes pour la recherche,letri, et
leschemins les plus courts.
Cesalgorithmes marchent quellesque soient lesdonnées.
Chaque algorithme résout chaque foisla même question.
Faire tournerl’algorithme surune entrée nousdonne
la réponse àune instance duproblème
Faire tournerunalgorithme n’estpas lasolution duproblème:
la solution, c’estl’algorithme lui‐même
Données + Question = Problème 5 / 34

ICCModule1Leçon3– ThéorieduCalcul
Problèmes et problèmes intéressants
Definitions:
Unproblème secompose d’une question etd’unensembled’instances.
Une solution pour unproblème estunalgorithme qui répond
correctementàlaquestion pour chaque instance possible.
Observation:
Si l’ensemble d’instances estfini,ilesttoujours possible de résoudre leproblème
enbâtissant une table de correspondances,laplus simpledes
structuresde données, qui stockela réponse pour chaque instance.
L’algorithme de solution consulte cette table etimprimela solutiontrouvée.
il n’y a pas de calcul!
Conclusion:
Seulsles problèmes avec desensembles infinis d’instances demandent du
travail: ce sont les seuls quinous intéressentdanslecoursd'aujourd'hui.
Données + Question = Problème 6 / 34
ICCModule1Leçon3– ThéorieduCalcul
Apprendre à compter
Noussavonsbiensûrtous compter:1,2,3,4,5,...
Mais comment compter unensemble infini ?
Outil: Lesentiers positifs, N = {1,2,3,...}définissent lecomptage.
Definition: unensemble Sestdénombrable
si etseulement sitoutélémentdeSpeutêtrenumérotéparunentier,
c'estàdirequ'ilexisteunesurjection f:N→S.
Exemple: SiSestl'ensemble Z={...,−3,−2,−1,0,1,2,3,...}.
C'est unensemble dénombrable caron peut prendre
f:N→Zcomme suit:
sil'entiernatureliestpair, alors f(i)=i/2
sil'entiernatureliestimpair, alors f(i)=−(i−1)/ 2
L’infini et l’énumération 7 / 34
Lenumérotage estlesuivant (entiernaturel en bleu, f(i)enrouge):
1, 2, 3, 4, 5, 6, 7, . . .
0,1,‐1,2,‐2,3,‐3,...
ICCModule1Leçon3– ThéorieduCalcul
Les paires d’entiers positifs sont dénombrables
Sûrementpas!Après tout, il y aunnombre infini de paires quiont toutes le
même premierélément!
Etpourtant. . . Ecrivons lespaires sur untableaucomme ci‐dessous:
Nous pouvons énumérer lespaires sur la basede leur somme cartoute
valeurdesommeestobtenueàpartird'unnombrefinidepaires.
Donc nous commençons par (1,1), puis (1,2)et(2,1), puis (1,3), (2,2)et
(3,1), puis (1,4), (2,3), (3,2)et(4,1), etc.
Chaque paire reçoit sonnuméro unique—cetensembleestdénombrable.
L’infini et l’énumération 8 / 38
1,11,21,31,41,5...
2,12,22,32,42,5...
3,13,23,33,43,5...
4,14,24,34,44,5...
5,15,25,35,45,5...
ICCModule1Leçon3– ThéorieduCalcul
Les programmes sont dénombrables
Unprogramme estsimplement untexte (delongueurfinie)écrit
àl’aided’un alphabetchoisi. Ilestfaciled’énumérer(numéroter)
tous lestextes possibles dansunordre lexicographique:
◮Commençonsparénumérerlestextes d’unseulcaractère:
1:a,2:b,3:c,...,26:z
◮Continuonsavec lestextes de deuxcaractères:
27:aa,28:ab,29:ac,...,52:az,53:ba,54:bb,...,
677:za,678:zb,679:zc,...,702:zz
◮Maintenant passonsauxtextes de trois caractères:
703:aaa,704:aab,705:aac,...,18’278:zzz,
etainsi de suite.
Mêmeavec le bonchoix d’alphabet, certaindes textes énumérés ne sont pas
desprogrammes, mais touslesprogrammes sont énumérés.
L’infini et l’énumération 9 / 34

ICCModule1Leçon3– ThéorieduCalcul
Les fonctions N→N ne sont pas dénombrables
Soitl’ensemble des fonctions entières d’une variable entière n,
c'estàdirequiproduisentunevaleurentière f(n) pourtoutentiern.
Pouressayerdedénombrercesfonctions,onvalesrangersous
formed'untableau(infini)avecunefonctionparligne.
Chaquecolonne jindiquelavaleurdelafonctionpourl'entierj
Exemple:lafonctionfiapparaitsurlalignei
fi(0),fi(1),fi(2),...,fi(j),...
L’incalculable sur la diagonale 10 / 34
ICCModule1Leçon3– ThéorieduCalcul
Les fonctions N→N ne sont pas dénombrables
012j
0f0(0),f0(1),f0(2),...,f0(j),...
1f1(0),f1(1),f1(2),...,f1(j),...
2f2(0),f2(1),f2(2),...,f2(j),...
3f3(0),f3(1),f3(2),...,f3(j),...
...
Ondéfinitmaintenantlafonctionentière(n)=fn(n)+1
(n) estconstruiteenprenantlestermesdeladiagonaledutableau
etenajoutant1
Conséquence:aucunelignedutableaunepeutreprésenter(n)
carsontermediagonalneseraitpascorrect
‐>lesfonctionsnesontpasdénombrables
L’incalculable sur la diagonale 11 / 34
ICCModule1Leçon3– ThéorieduCalcul
Pas assez de programmes!
Qu’avons‐nous appris?
L’ensemble de tous les programmes (quel que soit lelangage)
estdénombrable.
L’incalculable sur la diagonale
L’ensemble des fonctions entièresd’une variable
entière n’estpasdénombrable.
Donc il existe beaucoupplus de fonctions
entières que deprogrammes.
Donc ilexisteunnombreinfinidefonctionsquine
sont pascalculablesparunprogramme!
(Il n’y asimplement pas assezde programmes possibles.)
12 / 34
ICCModule1Leçon3– ThéorieduCalcul
Pas assez de programmes! (2)
Toutprogrammepossèdeunelongueurfinie
L’incalculable sur la diagonale 13 / 34
Unefonctionentièreproduitunevaleurpour
unnombreinfinid'entiers
Exprimerlafonctionsousformed'unetable
demanderaitunelongueurinfiniedetable,
cequin'estpaspermispourunprogramme
Onnepeutpasexprimertouslesproblèmes
sousformealgébrique.
Parexemple,lesfonctionsaléatoires dontlesvaleurs
successivessontimprévisibles nepeuventpasêtre
produitesparunprogrammedontlalongueurestfinie
fi(0),fi(1),fi(2),...,fi(j),......
012...j......
fi(0),fi(1),fi(2),...,fi(j),......
fi(n)=a.n+b

ICCModule1Leçon3– ThéorieduCalcul
Problème de décision et décidabilité
Définition: unproblèmededécision prendlaformed'unequestion
àlaquelleonpeutseulementrépondreparOUIouparNON
décidabilité
Leproblèmeestdécidablesil'onpeutapporterl'uneoul'autre
réponseàl'aided'unalgorithmeopérantenunnombrefini
d'étapes.
Leproblèmeestindécidables'ilestimpossiblederépondre à
l'aided'unalgorithme.
14 / 34
ICCModule1Leçon3– ThéorieduCalcul
exemple de problème décidable
décidabilité
Soient n et m deux entiers donnés >1. m est il multiple de n?
Onsaitque:"8estmultiplede2"estVRAI
"16estmultiplede3"estFAUX
Deuxinstancesduproblèmesnesuffisentpaspourdéterminersile
problèmeestdécidableoupas.Ilfautlemontrerpourtoutmetn.
L'algorithmesuivantpermetderépondrepourtoutmetn:
- faire la division entière de mpar npour obtenir le reste r
- Si le reste rest nul répondre VRAI
- Sinon répondre FAUX
ceproblèmeestdécidable
15 / 34
ICCModule1Leçon3– ThéorieduCalcul
exemple de problème indécidable: le problème de l'arrêt
décidabilité
Definition: déterminer si un programme donné P(x), initialisé
avec une valeur de x (appartenant à N), parvient à s'arrêter
ou non.
Exempletrivial:soitleprogrammeP(x)
Tant que x > 0
incrémenter x
Sileprogrammeestexécutéavecunevaleurinitialenullepourx,celui‐ci
setermineimmédiatement
Siparcontreilestinitialiséavecxstrictementpositif,ilbouclesansfin.
16 / 34
ICCModule1Leçon3– ThéorieduCalcul
Outil de démonstration: l'autoréférence
Lesphrasesautoréférentespeuventêtreparadoxales:
"cettephraseestunmensonge"
Ellenepeutetreclasséenivraie,nifausse
(~paradoxed'Epiménide,~2500BP)
autoréférence et paradoxe
[source:PhilippeGeluck]
Ilyaautoréférence lorsqu'unsigneseréfèreàlui‐même.
Laphrase"cettephrasecomptecinqmots" estautoréférente.
17 / 34

ICCModule1Leçon3– ThéorieduCalcul
Outil de démonstration: l'autoréférence (2)
L'autoréférenceestutiliséedansladémonstrationdel'indécidabilité duproblèmede
l'arrêt d'unprogrammeP(x)enposantqu'ons'intéresseseulementaucontextesuivant:
lavaleurdexestunentierquireprésenteleprogrammeP(x)lui‐même.
Exempletrivial:soitleprogrammeP(x)
Tant que x > 0
incrémenter x
Parconstruction(vueendébutdecours)lavaleurentièredexreprésentantle
programmeP(x)eststrictementsupérieureà0,cequiconduitleprogrammeàboucler
sansfin.
autoréférence et paradoxe 18 / 34
ICCModule1Leçon3– ThéorieduCalcul
Indécidabilité du problème de l'arrêt (1)
Nousallonsmontrerqu'ilnepeutpasexister d'algorithmegénéralQ(x) qui,
implémentésousformed’unprogrammeQ(x),puissedéterminersin'importequel
programmeP(x)s'arrêteoupaslorsqu'ilestexécutéaveclui‐mêmecommevaleur
initialex.
Démonstrationparl'absurde:
Etape1
SupposonsqueQ(x)existe.Celaveutdireque:
‐Q(x)estexécutéavecxreprésentantleprogrammeP(x)
‐Q(x)déterminesiP(x),initialiséaveclui‐mêmecommevaleurdex,s'arrêteoupas
‐Q(x)renvoieseulementdeuxvaleurspossibles:
1pour"OUIP(x)peuts'arrêterquandilestinitialiséaveclui‐même"
0pour"NONP(x)nepeutPASs'arrêterquandilestinitialiséaveclui‐même"
le problème de l'arrêt 19 / 34
ICCModule1Leçon3– ThéorieduCalcul
Indécidabilité du problème de l'arrêt (2)
Etape2
ConstruisonsunnouveauprogrammeR(x)quicontientQ(x)etquiutiliselavaleur
renvoyéeparQ(x),notéey:
y← Q(x)
Tant que y > 0
incrémenter y
le problème de l'arrêt
Etape3
Quesepasse‐t‐ilquandcenouveauprogrammeR(x)s'exécutelorsqu'ilestinitialisé
aveclui‐même ?
‐supposonsqueR(x)setermine,doncQ(x)renvoielavaleur1cequiproduitune
bouclesansfinsurlavariabley,doncR(x)nepeutPASseterminer [contradiction]
‐supposonsqueR(x)neseterminepas,doncQ(x)renvoielavaleur0cequifait
immédiatementquitterlabouclesury,doncR(x)setermine [contradiction].
Conclusion:l'existencedeQestimpossible
R(x)
20 / 34
ICCModule1Leçon3– ThéorieduCalcul
Autres problèmes indécidables
le problème de l'arrêt
1)unprogrammecontient‐ilunmorceaudecodeinutile?(Th.deRice)
2)deuxprogrammescalculent‐ilslamêmechose?(Th.deRice)
3)uneconfigurationdujeudelaviedeConwayfinit‐ellepardisparaitre
oupersiste‐t‐elletoujours?
4)peut‐onpaverleplansansrecouvrementniespacevideavecun
ensembledeformesgéométriques?
Quandunproblèmeestindécidable,onSAITqu'onnepeutpas
déterminerderéponseàlaquestionposée<=>ilestinutiledeperdre
dutempssurcetteformulationd'unproblèmeoudecroirequelqu'un
quivoudraitnousvendreunesolutionàceproblème...
Celaestbeaucoupplusfortquededirequ'onnesaitpaslerésoudre
(simpleaveud'ignorance<=>quelqu'und'autrepourraitréussir)
http://www.michael‐hogg.co.uk/game_of_life.php
MauritsCornelisEscherutilisédans:
http://xavier.hubaut.info/coursmath/doc/pavages.htm
21 / 34