Note DB sur proposition texte de Gérard Sabah (10 Avril 2011) Commentaires GS dans cette police La complexité, la polysémie et la récurrence des débats sur le sens du mot « conscience » légitiment apparemment la réduction de notre débat à la question des modèles « implémentables », ce qui évacuent de nombreux textes originaires des sciences sociales et de la biologie ainsi que bien évidemment de la philosophie. Commentaire GS : Précisément, comme j’essaie de le dire dans le 1.2 et 1.3 de ma proposition, on se fourvoie en parlant de LA conscience, qui recouvre un ensemble de caractéristiques trop pour être traité de façon unifiée dans un programme. Mais est-ce bien raisonnable de limiter ainsi le champ de la question comme il est précisé dans le 3. 1 qui introduit à la recherche d’une modélisation synthétisant (3.2) les 3 approches présentées? Commentaire GS : Pour moi, la synthèse envisagée ne vise pas une modélisation de LA conscience, mais veut rendre compatibles des propositions d’informaticiens sur le sujet, qui se situent à des niveaux de description différents. La modélisation et l’implémentation supposent en effet la possibilité de proposer des lois de causalité suffisamment fiables et stables pour qu’une prévision puisse en être tirées avec une probabilité suffisante. Cette démarche procède d’une vision scientiste et déterministe fondée sur une conception mécaniciste et anhistorique du temps où le futur est symétrique du passé. Or la conscience, même dans son acception la plus simple apparaît comme un processus qui n’est ni stable ni séquentiel Commentaire GS : Voir précisément mes commentaires ci-dessous (sur les notions de modèle et de système) pour rendre compte de ces absences de stabilité et de séquentialité. car elle est synonyme de vie personnelle et donc de temps asymétrique et irréversible comme le dit très bien Bergson : « Toute conscience est donc mémoire – conservation et accumulation du passé dans le présent. Mais toute conscience est anticipation de l’avenir. Considérez la direction de votre esprit à n’importe quel moment : vous trouverez qu’il s’occupe de ce qui est mais en vue surtout de ce qui va être. L’attention est une attente et il n’y a pas de conscience sans une certaine attention à la vie. L’avenir est là ; il nous appelle ou plutôt il nous tire à lui : cette traction ininterrompue qui nous fait avancer sur la route du temps, est cause aussi que nous agissons continuellement. Toute action est empiétement sur l’avenir. Retenir ce qui n’est déjà plus, anticiper sur ce qui n’est pas encore, voilà donc la première fonction de la conscience. » Si l’on veut bien donner une importance à cette fonction créative de la conscience humaine, une question grave se pose : un homme artificiel reproduisant toutes les fonctions et toutes les réactions d’un homme d’aujourd’hui grâce à un cerveau subtil construit pour cela, pourrait-il être considéré comme doté, au delà de cette intelligence ou même de cette imagination artificielles remarquables, d’une conscience personnelle capable de subjectivité, de liberté de choix, de création originale et personnelle dans le futur, c’est-à-dire de ce qui, pour le sens commun comme pour les philosophes, fait justement la différence entre une machine et un être humain. « La conscience est un état de l’esprit auquel s’ajoute un processus du soi. L’état conscient de l’esprit est vécu exclusivement à la première personne ». (Damasio) Commentaire GS : C’est bien ce qu’on cherche à comprendre dans ce GT ! mais, en partant des propositions technologiques qui existent, afin d’analyser jusqu’où elles pourront aller… Le dilemme apparaît donc clairement : - ou bien la recherche ne porte que sur un « logiciel » de « conscience » entièrement programmé et par conséquent susceptible d’être contrôlé (puisque l’on connaît parfaitement ses réactions quelques soient leur complexité) et, dans ce cas, il ne s’agit pas d’un artefact conscient puisque privé de liberté et de créativité mais seulement d’un auxiliaire de l’action humaine particulièrement « intelligent ». Commentaire GS : Tout à fait d’accord avec la conclusion, mais il me semble que la prémisse n’est pas juste, pour les raisons techniques suivantes : ----------Un système est conçu comme un ensemble constitué de différents modules qui interagissent (exemplifiés, en particulier par les systèmes multi-agents). On distingue alors : Les systèmes fermés, dont la fonction est bien définie et ne change pas ; leurs interactions avec l’environnement ne changent pas ce rôle. Ces systèmes (qui communiquent quand même avec leur environnement) sont complètement décrits par leurs fonctionnalités. Ils peuvent atteindre des états stables indépendamment du temps. [c’est le cas des systèmes que Danièle envisage] Les systèmes instables, qui ne sont pas réversibles (une caractéristique globale des descriptions probabilistes). Les fluctuations ne sont pas accidentelles, mais jouent un rôle central et l’état du système ne peut être prévu à partir des seules conditions initiales. Les systèmes ouverts, qui sont composés d’éléments polymorphes dont la fonction n’est que partiellement déterminée à leur création, et dont le fonctionnement prend en considération le rôle des composants connexes. Dans ces systèmes, l’ordre d’activation résulte essentiellement des interactions coordinatrices entre les composants et non pas de leurs fonctionnalités. On peut alors considérer des modèles complexes d’exécution, en introduisant des entités ayant des rôles fonctionnels distincts : les entités de base ont des comportements prédéfinis, les entités informationnelles sont envoyées et reçues par les entités de base qui s’informent des actions en cours, et les entités régulatrices observent et représentent les comportements des entités informationnelles. Une des caractéristiques de ces systèmes réside dans un changement continuel de son organisation (c'est-à-dire une modification des relations entre ses composants). Un système profondément complexe est alors un système complexe ouvert dont le comportement est déterminé par les communications entre ses entités. Une caractéristique fondamentale de ces systèmes complexes est qu’il s’agit en fait d’un ensemble de processus récrivant des programmes de machineS de Turing. Il n’est donc pas réductible à un seul programme, puisqu’il est incapable de déterminer lui-même son état suivant. Un tel système, composé de très nombreux processus, a un comportement qui ne peut être prévu a priori. De tels modèles existent, en particulier, dans le cadre des systèmes multi-agents ; c’est aussi la base de ce que propose Cardon, qui montre bien que ce type de mécanisme est nécessaire pour un système autonome ayant certaines caractéristiques de la conscience. - ou bien, poursuivant le rêve d’une vraie conscience « artificielle », on introduit « naïvement » de plus de « liberté » dans le système avec tous les risques de dérives incontrôlables que résume l’expression « apprenti sorcier » Commentaire GS : Et précisément, le but de notre GT est d’identifier ces risques, d’analyser si on peut les contrôler et sinon, de voir quel type d’action proposer…