Ethique conséquentialiste et TALN

Ethique conséquentialiste et TALN
Une typologie de risque adaptée aux technologies langagières
Anaïs Lefeuvre,
Jean-Yves Antoine,
Allegre
Anaïs Lefeuvre, Jean-Yves
Antoine,
WillyWilly
Allegre
Sciences et technologies du numérique
Nouveaux comportements
société connectée
Nouvelles possibilités
big data
Nouveaux acteurs
robotique, agents virtuels
Technologies langagières, actrices de la révolution numérique
• Recherche d’information, fouille de texte, dialogue homme-machine
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Société numérique : questionnements
Inquiétudes au sein de la société civile
• Respect de la vie privée
• Droit à l’oubli numérique
• Contrôle étatique (Loi Renseignement)
Interrogations chez les scientifiques
• CERNA-ALLISTENE : réflexion éthique
institutionnalisée dans le domaine de la robotique
Technologies langagières
Prise de conscience trop limitée ?
Focus sur l’anonymisation des données
- pratiques plus que productions
- simple respect du cadre juridique (Loi Informatique et Liberté)
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Démarche éthique et recherche
Droit
Hétéro-régulation (étatique) basée sur l’interdit
ð S’impose au chercheur
Ethique
Auto-régulation basée sur des principes moraux
ð Elaboré par une communauté : société civile, chercheurs….
Précède et guide de plus en plus le droit (jurisprudence)
Chercheur lanceur d’alerte
Le chercheur est parfois le seul qui à comprendre ou anticiper
les enjeux éthiques
‘in
liés à l’émergence d’une nouvelle technologie [Axel Kahn]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Objectif
Méthodologie pour guider une réflexion éthique en TALN
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Ethique
Ethique déontologique
•
•
Respect de principes moraux guidant nos actions
La réflexion éthique porte sur l’établissement de ces principes,
dans le cadre d’un débat contradictoire et équitable
Ethique conséquentialiste
•
•
Théorie de la justice (John Rawls, 1987)
Utilitarisme, principe responsabilité (Hans Jonas, 1990)
Approche téléologique : focalisation sur les conséquences des actions
La réflexion éthique porte sur l’évitement de conséquences néfastes
Proposition
Etude conséquentialiste sous forme d’analyse de risque
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque
Définition
Référentiel ISO Guide 73
effet de l’incertitude sur l’atteinte des objectifs
effet : écart, positif et/ou négatif, par rapport à une attente
Analyse du risque : trois composantes
Facteur de Risque
Vulnérabilité
Criticité C = I × P
Elément pouvant entraîner une
situation imprévue
Objet qui subit le risque et
conséquence sur l’objet
I : impact du risque (gravité)
P : probabilité d’occurrence
Typologie de facteurs de risques adaptée au TAL
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Typologie de facteurs de risque
Catégorisation des facteurs de risque par vulnérabilité : grille d’analyse
Niveau 1
objet
Niveau 2
composante
$
1. Individu
Facteurs
de risque
1.1. Risque physique
1.1.1
1.1.1.1
1.2. Risque cognitif
1.1.2
…
1.3. Risque psychique
2. Société
Niveaux suivants
conséquence
(type d’impact)
….
2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risques pour l’individu
$
1. Individu
1.1. Risque physique
1.2. Risque cognitif
1.3. Risque psychique
2. Société
2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque physique
•
•
Atteinte à l’intégrité physique de l’individu par suite de l’usage d’un système technique
Peut concerner également le TAL
Logistique : commande vocale
1.1. Risque physique
1.1.1. Impact sur
l’utilisateur
1.1.2. Impact sur
l’environnement
physique
1.1.1.1. Atteinte
physique externe
ð lombalgie
ð trouble musculo-squelettiques
[INRS, fiche sécurité ED135]
1.1.1.2. Atteinte
physiologique interne
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque cognitif
•
•
Altération de certaines fonctions cognitives ou de l’état cognitif général de l’utilisateur
Structuration des impacts par fonctions mentales de la classification CIF de l’OMS
[OMS 2001]
Recherche d’information
Google Effect – influence de l’usage d’un
moteur de recherche sur la mémoire à
long terme [Sparrow et al. 2011]
ð Impact mémoire
Aide à la composition langagière
•
•
•
Aide à la communication
Correction orthographique
Traduction automatique
ð Impact compétences langagières
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque psychique
•
perturbation de l’état psychologique de l’individu permanent ou temporaire
•
Structuration des impacts inspirée des classifications de l’OMS (CSM-10)
[OMS 2006]
1.3. Risque psychique
1.3.1. Effets durables
1.3.1.1. Troubles de l’humeur
1.3.1.2. Troubles anxieux
1.3.1.3. Troubles personnalité
1.3.2. Effets temporaires
1.3.2.1 Fatigue psychique
1.3.2.2. Stress / choc émotionnel
Robots, Agents conversationnels animé (ACA), synthèse vocale sur mesure : visée anthropomorphique
ð Troubles de la personnalité ? Transferts ?
Dans les cas où l’apparence ou la voix humaines sont imitées, [on] s’interrogera sur les effets que pourrait avoir cette imitation, y
compris hors des usages [prevus]
[Cerna 2014]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risques sociétaux
$
1. Individu
1.1. Risque physique
1.2. Risque cognitif
1.3. Risque psychique
2. Société
2.1. Risque sur le lien individu - société
2.2. Risque sur le système social
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque sur le lien social
•
Rapport de l’individu à la société / dans la société
•
Au-delà du respect des droits individuels
2.1. Lien social
2.1.1. Relation inter-individu
2.1.2. Relation à la
technologie
Détection d’auteurs
(Authorship Authentification)
2.1.2.1. Technologie invisible
2.1.2.2. Dialogue Homme-Machine
ð Respect de la vie privée
2.1.3.1. Respect de la vie privée
2.1.3. Droits et
libertés individuelles
2.1.3.2. Droit du travail
2.1.3.3. Responsabilité
2.1.3.4. Liberté d’expression
2.1.3.5. Propriété intellectuelle
Myriadisation / Crowdsoursing
Réalisation de ressources linguistiques
ð Droit du travail
[Sagot et al. 20011]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque sur le lien social
Nouveaux acteurs : bots, robots et agents conversationnels animés…
Relation inter-individu
2.1.1.
Pour les projets (…) qui ont trait au développement de la robotique affective, le chercheur s’interrogera sur les
répercussions éventuelles de son travail sur les capacités de socialisation de l’utilisateur [Cerna 2014]
Relation à la technologie : technologie invisible
2.1.2.1.
Génération automatique de comptes-rendus électoraux [Le Monde 2015]
Relation à la technologie : dialogue homme-machine
2.1.2.2
Si une ressemblance quasi parfaite est visée, le chercheur doit avoir conscience que la démarche
biomimétique peut brouiller la frontière entre un être vivant et un artefact [Cerna 2014]
Droits et libertés : responsabilité
•
•
2.1.3.5
Statut juridique des robots et agents autonomes [Robolaw 2014, Bensoussan 2015]
Responsabilité voitures autonomes, drones (législation Nevada)
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque sur le système social
•
modification du système social : politique, économique, culture
2.2. Risque sur le système social
2.2.1. Risque politique
Recherche d’information textuelle
« Bourse des mots »
2.2.2. Risque économique
2.2.3. Risque socio-culturel
ð Capitalisme linguistique [Kaplan 2014]
Traduction automatique
Anglais langue pivot + machine learning
ð Créolisation numérique
[Kaplan 2014]
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Conclusion
•
•
La technologie n’est pas un objet neutre : impact individuel et sociétal du TAL
Le TAL participe à la réparation /augmentation de l’humain (transhumanisme)
ð Nécessité d’une réflexion éthique soutenue sur nos recherches
Perspectives
•
•
•
Typologie à éprouver : risques sociétaux … voire plus universels
Hiérarchie ð ontologie (facteurs multi-risques, raisonnement…)
Etude de criticité : expérimentation sur les compétences langagières (RTR Risques)
Remerciements
Christian Toinard, Benjamin Nguyen, Adrien Granger
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Anaïs Lefeuvre
LI, Université François Rabelais de Tours, Blois
Jean-Yves Antoine
LI, Université François Rabelais de Tours, Blois
Willy Allègre
Laboratoire d’Electronique, CMRFF de Kerpape, Ploemeur
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque
XVII°
Temps modernes
•
Fatalisme :
risque accepté
•
•
•
XIX°
Mathématisation [Huygens, Bernouilli, Pascal]
Incertitude liée à un processus
Aléa positif ou négatif
Révolution industrielle et « anthropocène »
•
•
Maîtrise du risque industriel : normes
Estimation coût/bénéfice
ISO Norme 73
effet de l’incertitude sur l’atteinte des objectifs
effet : écart, positif et/ou négatif, par rapport à une attente
UE 2006
risque : probabilité qu’un évènement se produise
risque potentiel grave : situation dans laquelle il existe une
forte probabilité pour qu’un danger grave provoqué par un
médicament (…) affecte la santé publique
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre
Risque cognitif
Aide à la composition langagière – altération par insuffisance de stimulation cognitive
• Aide à la communication pour personnes handicapées, correction orthographique, traduction automatique
1. Individu
1. Individu
1.2. Risque cognitif
1.2. Risque cognitif
1.2.1. Altération fonction
1.2.1. Altération fonction
1.2.1.2 Retard cognitif
1.2.1.2.4. Langage
1.2.1.2 Régression cognitive
1.2.1.2.4. Langage
Mémoire altérée
• Google Effect – influence de l’utilisation d’un moteur de recherche sur les stratégies de mémorisation à long terme
[Sparrow et al. 2011]
• Abandon de l’écriture cursive pour la saisie numérique sur clavier – stimulation inférieure d’aires motrices activées en
même temps que certaines aires motrices [Longcamp 2003]
1. Individu
1.2. Risque cognitif
1.2.1. Altération fonction
1.2.1.2 Retard cognitif
1.2.1.2.5. Mémoire
Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre