Téléchargez le PDF - Revue Médicale Suisse

Bloc-notes
Watson, l’intelligence artificielle médicalisée
Où que l’on regarde, l’intelligence artificielle
(AI) monte en puissance, l’humaine raison
cède du terrain. Un gigantesque changement
s’organise. Dans la finance, l’industrie automobile ou en médecine, c’est à propos de l’IA que
les grands groupes se livrent déjà la guerre du
futur. Chez nous, rares sont les décideurs à
saisir l’ampleur du mouvement. Dans la campagne politique qui vient de se dérouler, pas
un mot sur ces nouveaux défis et leurs conséquences. Rien sur les pouvoirs qui se constituent, les métiers qui s’apprêtent à disparaître
et les clivages de société qui s’annoncent.
En médecine, l’intelligence artificielle la plus
prometteuse, et qui fait ces jours le plus de
buzz, c’est Watson, d’IBM. Elle appartient au
deep learning, une nouvelle génération d’IA
basée sur l’auto-apprentissage qui, en quel­
ques années, a réussi à résoudre des problèmes sur lesquels les informaticiens se cassaient les dents : la reconnaissance vocale ou
la conduite automatisée d’une voiture, par
exemple. Avec le deep learning, les verrous
qui fermaient le monde de la complexité de
­raisonnements humains aux machines commencent à céder.
Mais en même temps, il s’agit de se de­
mander : qu’arrive-t-il vraiment ? Des concepts
comme «rupture technologique» ou «intelligen­ce
artificielle» s’imposent sans que nous ne sachions quel sens leur attribuer. Le big data
­véhicule l’idée qu’on pourrait désormais se
passer de toute théorie, que l’analyse statistique des données suffirait à elle seule comme
source de connaissance. Illusion scientiste,
bien sûr, mais qui impressionne nos contemporains. Pour faire bonne mesure, on crée un
peu partout des centres de «digital humanities»,
talismans symboliques servant de timides repères sur les nouveaux territoires.
Non seulement, donc, l’information croît, mais
sa gestion devient le cœur de toute activité.
Submergée par les données – produites par la
littérature scientifique, la clinique et les objets
connectés – la médecine commence à comprendre qu’elle va devoir confier une grande
partie de leur interprétation aux machines. Mais
comment et avec quelles limites ?
Pour le moment, l’ambiance est à la fasci­
nation. Watson, si l’on en croit la propagande
d’IBM, est une sorte de monstre computationnel mais adapté aux humains. Lui mâcher son
travail est inutile. Il sait fonctionner comme
n’importe quel médecin. Pour élaborer un protocole de soins, par exemple, Watson est capable d’ingérer des centaines de milliers de
pages de guidelines et des millions de pages
de journaux médicaux. Et il n’a pas besoin d’un
dossier patient structuré, avec des champs
2044
64.indd 1
définis. Un dossier normal lui suffit. Il sait même
décoder les images médicales et synthétiser
les résultats de plusieurs procédures – une
mammographie, un IRM et une échographie,
par exemple. Ou encore, il peut intégrer le
­séquençage de gènes et les variants propres
à chaque patient pour les comparer à ceux
provenant d’immenses bases. Sans compter
que, capable de multiplier les couches d’apprentissage, Watson fait évoluer son fonctionnement à chaque interaction avec les patients
et les médecins.
Evidemment, de cette intelligence là, tout le
monde en demande. Lancé en avril 2015, le
cloud Watson Health a déjà séduit des pharmas (Teva par exemple), des cliniques et organisations de soins (Mayo Clinic, Boston Children’s et Columbia Medical) ou des industriels
(Medtronic et Apple). Plus de 14 centres spécialisés en oncologie utilisent aussi ses services, particulièrement utiles pour croiser une
recherche ultra-dynamique avec les caractéristiques de chaque patient.
Le grand rêve commercial d’IBM est que Watson devienne indispensable dans le monde de
la santé. Mais avec quel but (en plus de gagner
de l’argent, bien sûr) ? A lire les documents officiels, n’apparaît qu’un projet technocratique :
collecte, organisation et analyse des données
pour répondre à quantité de questions différentes. Mais le système de santé, que Watson
et les autres approches d’IA vont bouleverser,
vers quoi le faire évoluer ? Comment lui garder
son approche humaine, éviter que la culture
médicale soit court-circuitée par la machinisation des décisions et du savoir ? Voilà le genre
de questions auxquelles IBM ne répond pas
(et qu’il ne pose pas à sa machine).
Ces questions, c’est donc à nous, médecins et
citoyens, de les empoigner, si nous ne voulons
pas simplement obéir à une idéologie cons­
truite par les ingénieurs d’IBM. Nous entrons
dans une ère de capteurs omniprésents, de
mesure sans cesse plus précise de ce que
nous sommes, de surveillance continue de ce
que nous vivons. Grâce à l’IA, le savoir devient
prédictif et comparatif, mais aussi individualisé : la médecine «personnalisée» en découle.
De plus en plus, l’élaboration de la norme – la
séparation du normal et du pathologique entre
autres – résulte de l’analyse de cette information panoptique. En conséquence, la nécessité
de comprendre sur quels a priori et méthode
repose l’analyse des données n’a jamais été
aussi aiguë.
nieurs qui l’ont conçu ne connaissent pas toutes
les couches au moyen desquelles il s’est autoconstruit (son apprentissage est dit «non supervisé»). La machine est incapable de démontrer
clairement ses résultats. Seule certitude : sa
logique est algorithmique. Le trou­blant, cepen­
dant, c’est que rien ne prouve que cette logi­que
soit celle du cerveau humain. Watson pour­
rait donc, comme d’ailleurs les autres formes
­d’intelligence artificielle, imposer un monde
d’efficacité croissante, de plus en plus technique, mais un monde proprement inhumain.
Pour les cognitivistes, certes, le cerveau se
comporte de façon algorithmique. Selon d’autres
théories, cependant, la pensée ne dépend
pas de l’analyse des données mais résulte
d’une émergence, se constituant en une sorte
d’autonomie logique. Pour d’autres encore, la
pensée ne serait pas une émergence au sens
classique, mais plutôt la traduction d’un fonctionnement quantique.
Ces différences conceptuelles sont-elles en
cause ? En tout cas, le rôle des soignants porte
au-delà d’une analyse computationnelle de
toutes les données possibles. Il ne se résume
pas à produire le savoir, ni à l’accumuler, ni à le
perfectionner. Il consiste à le personnaliser, à
l’adapter à des êtres libres, tissés d’une complexité plus épaisse et obscure que ce qu’en
comprend la digitalisation de leur vie. Certes,
des systèmes comme Watson permet­tent une
indéniable échappée hors de la pauvreté statistique de la médecine classique. Mais le
défi, c’est de ne pas construire un nouveau réductionnisme au nom d’une vision complexe.
Quels effets auront Watson et l’ensemble de
l’informatique cognitive sur la médecine ? Intéressée par des promesses d’amélioration, la
population va porter un autre regard sur la
­maladie. Ses exigences vont augmenter. Peutêtre, en raison de l’efficacité de la surveillance
et du traitement des données, la question de
la finitude et celle de la mort apparaîtront-elles
encore plus troublantes. Probablement susciteront-elles des révoltes et des irrationnels
que l’informatique cognitive cherchera à «comprendre» et à «intégrer» dans un nouvel effort
d’intelligence. Mais aucune analyse informatisée ne les dépassera, sinon en s’affranchissant de l’humain.
Le propre de l’intelligence n’est pas seulement de trouver des réponses aux questions.
Il est aussi de comprendre que certaines
questions n’ont pas de réponse.
Bertrand Kiefer
Seulement voilà : Watson ne révèle rien de ses
étapes de fonctionnement. Même les ingé-
Revue Médicale Suisse – www.revmed.ch – 28 octobre 2015
26.10.15 12:34