Note DB sur proposition texte de GS+CommGS+DP

Note DB sur proposition texte de Gérard Sabah (10 Avril 2011)
Commentaires GS dans cette police
La complexité, la polysémie et la récurrence des débats sur le sens du mot
« conscience » légitiment apparemment la réduction de notre débat à la question des
modèles « implémentables », ce qui évacuent de nombreux textes originaires des
sciences sociales et de la biologie ainsi que bien évidemment de la philosophie.
Commentaire GS :
Précisément, comme j’essaie de le dire dans le 1.2 et 1.3 de
ma proposition, on se fourvoie en parlant de LA conscience,
qui recouvre un ensemble de caractéristiques trop pour être
traité de façon unifiée dans un programme.
Mais est-ce bien raisonnable de limiter ainsi le champ de la question comme il est
précisé dans le 3. 1 qui introduit à la recherche d’une modélisation synthétisant (3.2) les
3 approches présentées?
Commentaire GS :
Pour moi, la synthèse envisagée ne vise pas une modélisation
de LA conscience, mais veut rendre compatibles des
propositions d’informaticiens sur le sujet, qui se situent à
des niveaux de description différents.
La modélisation et l’implémentation supposent en effet la possibilité de proposer des
lois de causalité suffisamment fiables et stables pour qu’une prévision puisse en être
tirées avec une probabilité suffisante. Cette démarche procède d’une vision scientiste et
déterministe fondée sur une conception mécaniciste et anhistorique du temps où le
futur est symétrique du passé. Or la conscience, même dans son acception la plus simple
apparaît comme un processus qui n’est ni stable ni séquentiel
Commentaire GS :
Voir précisément mes commentaires ci-dessous (sur les notions
de modèle et de système) pour rendre compte de ces absences de
stabilité et de séquentialité.
car elle est synonyme de vie personnelle et donc de temps asymétrique et irréversible
comme le dit très bien Bergson : « Toute conscience est donc mémoire – conservation et
accumulation du passé dans le présent. Mais toute conscience est anticipation de l’avenir.
Considérez la direction de votre esprit à n’importe quel moment : vous trouverez qu’il
s’occupe de ce qui est mais en vue surtout de ce qui va être. L’attention est une attente et il n’y
a pas de conscience sans une certaine attention à la vie. L’avenir est là ; il nous appelle ou plutôt il
nous tire à lui : cette traction ininterrompue qui nous fait avancer sur la route du temps, est cause
aussi que nous agissons continuellement. Toute action est empiétement sur l’avenir. Retenir ce qui
n’est déjà plus, anticiper sur ce qui n’est pas encore, voilà donc la première fonction de la
conscience. »
Si l’on veut bien donner une importance à cette fonction créative de la conscience
humaine, une question grave se pose : un homme artificiel reproduisant toutes les

fonctions et toutes les réactions d’un homme d’aujourd’hui grâce à un cerveau subtil
construit pour cela, pourrait-il être considéré comme doté, au delà de cette intelligence
ou même de cette imagination artificielles remarquables, d’une conscience personnelle
capable de subjectivité, de liberté de choix, de création originale et personnelle dans le
futur, c’est-à-dire de ce qui, pour le sens commun comme pour les philosophes, fait
justement la différence entre une machine et un être humain. « La conscience est un état
de l’esprit auquel s’ajoute un processus du soi. L’état conscient de l’esprit est vécu
exclusivement à la première personne ». (Damasio)
Commentaire GS :
C’est bien ce qu’on cherche à comprendre dans ce GT ! mais, en
partant des propositions technologiques qui existent, afin
d’analyser jusqu’où elles pourront aller…
Le dilemme apparaît donc clairement :
- ou bien la recherche ne porte que sur un « logiciel » de « conscience » entièrement
programmé et par conséquent susceptible d’être contrôlé (puisque l’on connaît
parfaitement ses réactions quelques soient leur complexité) et, dans ce cas, il ne
s’agit pas d’un artefact conscient puisque privé de liberté et de créativité mais
seulement d’un auxiliaire de l’action humaine particulièrement « intelligent ».
Commentaire GS :
Tout à fait d’accord avec la conclusion, mais il me semble que
la prémisse n’est pas juste, pour les raisons techniques
suivantes :
-----------
Un système est conçu comme un ensemble constitué de différents
modules qui interagissent (exemplifiés, en particulier par les
systèmes multi-agents). On distingue alors :
 Les systèmes fermés, dont la fonction est bien définie et
ne change pas ; leurs interactions avec l’environnement
ne changent pas ce rôle. Ces systèmes (qui communiquent
quand même avec leur environnement) sont complètement
décrits par leurs fonctionnalités. Ils peuvent atteindre
des états stables indépendamment du temps. [c’est le cas des
systèmes que Danièle envisage]
 Les systèmes instables, qui ne sont pas réversibles (une
caractéristique globale des descriptions probabilistes).
Les fluctuations ne sont pas accidentelles, mais jouent
un rôle central et l’état du système ne peut être prévu à
partir des seules conditions initiales.
 Les systèmes ouverts, qui sont composés d’éléments
polymorphes dont la fonction n’est que partiellement
déterminée à leur création, et dont le fonctionnement
prend en considération le rôle des composants connexes.
Dans ces systèmes, l’ordre d’activation résulte
essentiellement des interactions coordinatrices entre les
composants et non pas de leurs fonctionnalités.
On peut alors considérer des modèles complexes d’exécution, en
introduisant des entités ayant des rôles fonctionnels

distincts : les entités de base ont des comportements
prédéfinis, les entités informationnelles sont envoyées et
reçues par les entités de base qui s’informent des actions en
cours, et les entités régulatrices observent et représentent
les comportements des entités informationnelles. Une des
caractéristiques de ces systèmes réside dans un changement
continuel de son organisation (c'est-à-dire une modification
des relations entre ses composants).
Un système profondément complexe est alors un système complexe
ouvert dont le comportement est déterminé par les
communications entre ses entités. Une caractéristique
fondamentale de ces systèmes complexes est qu’il s’agit en
fait d’un ensemble de processus récrivant des programmes de
machineS de Turing. Il n’est donc pas réductible à un seul
programme, puisqu’il est incapable de déterminer lui-même son
état suivant. Un tel système, composé de très nombreux
processus, a un comportement qui ne peut être prévu a priori.
De tels modèles existent, en particulier, dans le cadre des systèmes multi-agents ; c’est
aussi la base de ce que propose Cardon, qui montre bien que ce type de mécanisme est
nécessaire pour un système autonome ayant certaines caractéristiques de la conscience.
- ou bien, poursuivant le rêve d’une vraie conscience « artificielle », on introduit
« naïvement » de plus de « liberté » dans le système avec tous les risques de
dérives incontrôlables que résume l’expression « apprenti sorcier »
Commentaire GS :
Et précisément, le but de notre GT est d’identifier ces
risques, d’analyser si on peut les contrôler et sinon, de voir
quel type d’action proposer…