synthèse de l`étude IDEGOV

Programme international de recherche ISD
« Information Systems Dynamics »
Le programme ISD porté par la Fondation CIGREF, a pour ambition de dessiner les contours possibles de l’entreprise de 2020,
en tenant compte à la fois de l’histoire des usages des systèmes d’information dans l’entreprise
et des émergences en cours au plan sociétal.
« Les essentiels »
Identification et gouvernance
des enjeux éthiques émergents
dans les systèmes d’information
Avec la collection « Les Essentiels » la Fondation CIGFREF
propose une synthèse de chacun des projets de recherche portés par le programme ISD
Identification et gouvernance des enjeux éthiques émergents dans les systèmes d’information
L’étude IDEGOV : Identification et gouvernance des problématiques éthiques émergentes en systèmes d'information
(Identification and governance of emerging ethical issues in information systems) est un projet de recherche mené par :
Bernd Carsten Stahl, Professeur de recherche critique en technologie et directeur du centre de recherches sur l'informatique
et la responsabilité sociale de la faculté de technologie de l'Université Demontfort.
Philippe Goujon, Professeur de philosophie à l’Université Notre Dame de la Paix de Namur.
Les équipes de recherche étaient constituées des chercheuses Kutoma Wakunuma, Sara Wilford ( DeMontfort University) et
Laurence Masclet (Université Notre Dame de la Paix)
Cette étude, réalisée conjointement par l’Université de Namur (Philippe Goujon, Laurence Masclet) et l’Université DeMonfort
(Bernd Carsten Stahl, Kutoma Wakunuma et Sara Wilford), s’intéresse aux enjeux éthiques des systèmes d’information.
Le travail a notamment porté sur l’analyse de ces nouveaux enjeux, sur l’exploration de la perception qu’en ont les
professionnels de l’IT et sur les stratégies de gouvernance à mettre en œuvre.
Mars 2013
Identification et gouvernance des enjeux éthiques
émergents dans les systèmes d’information
Il existe quatre grandes manières de concevoir l’éthique : une approche analytique (déterminer quelles interactions sont préférables),
une approche pragmatique (recherche d’un consensus afin d’établir des normes communes), une approche contextualiste (rationaliser
les valeurs) et une approche sémantico-symbolique (liée à l’aspiration de tout être humain au respect).
Les informations collectées ont permis d’identifier les technologies actuelles et émergentes ainsi que les enjeux éthiques associés. Sur le
plan culturel, l’utilisation de nouvelles technologies par des personnes au profil non-technique peut avoir pour conséquence des
mauvaises utilisations, des failles de sécurité et des pertes de données, d’où l’importance d’actions de formation ciblant ces publics.
Des principes de gouvernance hétérogènes
Dans les organisations, les nouvelles technologies permettent un accès bien plus vaste aux ressources et aux personnes. C’est à la fois
une opportunité et une source de problèmes potentiels pour les entreprises : mauvaise utilisation, mais aussi surveillance électronique
des employés ou mise à mal de l’équilibre entre la vie privée et la vie professionnelle. Des chartes internes peuvent être un moyen de
prévenir ces problèmes, mais les pratiques de travail et les menaces pesant sur la sécurité des emplois peuvent en diminuer l’impact réel.
Les technologies ont également un impact massif sur les individus, qui accèdent à toujours plus d’informations et de distractions par ces
biais. La surcharge d’information n’est que l’un des dangers possibles, avec l’usurpation d’identité, le marketing agressif, les virus et
autres emails frauduleux.
La façon dont les individus déterminent les enjeux éthiques varie considérablement d’une personne à l’autre. Certains estiment que c’est
une capacité inhérente aux individus, tandis que pour d’autres cela fait partie de leur formation. D’autres encore estiment que ce
processus ne fait pas partie de leur rôle et que les règles en place dans l’organisation sont suffisantes pour qu’ils n’aient pas besoin de
trop s’en préoccuper.
3
ISD, les essentiels
Identification et gouvernance des enjeux éthiques émergents dans les systèmes d’information
Les entretiens ont révélé une faible réflexion sur les conséquences indésirables associées au développement ou à l’utilisation d’un produit
ou service, même quand celles-ci peuvent nuire à des individus ou des organisations. Parfois, quand un problème est décelé, sa gestion
est confiée à une autre personne ou un autre service que ceux qui l’ont identifié, et ceux-ci sont rarement informés de la manière dont
l’enjeu a été traité. Ce manque de communication peut conduire à la répétition de comportements problématiques ou de failles dans les
systèmes. Il peut également générer de la frustration chez les employés. Enfin, les chercheurs signalent la crainte des individus quand il
s’agit de signaler un usage problématique par un collègue ou un supérieur hiérarchique.
La gouvernance doit permettre aux organisations de s’assurer que les problèmes et enjeux sont traités rapidement et de manière
efficace. Les principes de gouvernance mis en œuvre dans les organisations étaient rarement clairs, à l’exception de celles soumises à une
forte pression réglementaire où la hiérarchie et les processus d’escalade étaient bien définis. L’objectif global de telles règles est
d’assurer la conformité avec les réglementations, la sécurité des données et de préserver la réputation de l’organisation.
Le traitement des enjeux éthiques est favorisé par l’existence d’une structure adéquate pour les répondants. Concrètement, la mise en
œuvre de la gouvernance est souvent liée à la vitesse de déploiement des technologies. Il semble donc qu’un équilibre doit être trouvé
entre la vitesse de déploiement des technologies et la mise en place de règles et procédures d’usage à la fois robustes et flexibles.
Les chercheurs ont identifié plusieurs tendances significatives, à partir des entretiens menés :
 La plupart des répondants se basent sur leur expérience et le sens commun pour identifier et résoudre les problèmes, ainsi que sur
l’avis d’experts et de comités internes ou externes à l’organisation.
 Certains mentionnent la présence de codes de conduite ou de procédures légales auxquels ils doivent se conformer.
 La plupart ne sont pas en mesure de prévoir ou de décrire de manière explicite quel impact peuvent avoir les technologies sur la
société ; celui-ci est souvent réduit à des enjeux très abstraits comme la protection de la vie privée ou la confiance ;
 Beaucoup sont conscients de la présence d’enjeux éthiques mais le réduisent à une question de prise de conscience par la société ;
 Les répondants mettent l’emphase sur un enjeu particulier, souvent la protection de la vie privée ou la sécurité. Cela laisse peu
d’espace pour d’autres sujets concernant la société civile.
 On note une forte présence des approches « top-down », qui laissent les enjeux éthiques aux mains d’experts ou de supérieurs
hiérarchiques. Les répondants ne semblent ne pas avoir connaissance d’autres formes de procédures de gouvernance.
Mars 2013
 La plupart des interviewés se montrent satisfaits des procédures en place et si certains questionnent leurs propres actions, aucun
ne montre une réflexivité de second niveau.
 Le modèle standard identifié par les chercheurs est le plus présent, certains comportements relevant du modèle standard revu, et
quelques-uns des modèles consultatifs. Les modèles de type co-construction semblent peu compatibles avec des environnements
fortement hiérarchisés.
 Si les interviewés tiennent un discours très théorique sur les enjeux éthiques, lorsque les questions sont plus poussées, ils relatent
fréquemment des anecdotes personnelles ou relatées par leur entourage.
Quelles solutions face aux enjeux éthiques ?
Elaborer des codes de conduite
A l’échelle des organisations, il est pertinent de disposer de services chargés de traiter les enjeux de conformité réglementaire.
Néanmoins, les trajectoires d’escalade en cas de problème éthique ne sont pas toujours claires. En outre, ces services doivent veiller à
utiliser eux-mêmes des processus éthiques en termes de transparence et de consultation des collaborateurs.
Mettre en œuvre des solutions techniques
Certains enjeux, notamment la sécurité et l’authentification, peuvent être traités à travers des solutions techniques. Les équipes
techniques sont généralement conscientes de ces enjeux, et leur avis doit être pris en compte par les managers. Mais trop d’emphase sur
la technologie peut conduire à une culture où on estime que les employés n’ont pas besoin d’être vigilants sur les enjeux éthiques. Les
solutions techniques ne doivent pas être la seule façon de traiter ces derniers, et les salariés doivent pouvoir signaler des problèmes
grâce à d’autres dispositifs.
5
ISD, les essentiels
Identification et gouvernance des enjeux éthiques émergents dans les systèmes d’information
Privilégier la formation
La formation est perçue comme clef pour améliorer la conscience des enjeux éthiques, aussi bien quand il s’agit de former les utilisateurs
que quand il s’agit de la formation des futurs professionnels de l’informatique, et même de manière plus générale l’éducation des enfants
et de la société.
Consulter les parties prenantes
L’une des meilleures façons de formuler des règles et des processus efficaces est la consultation des parties prenantes, d’une part, parce
que celles-ci peuvent savoir quel impact aura la technologie sur elles, mais aussi car elles peuvent fournir des solutions qui n’étaient pas
envisagées avant.
Renforcer la conformité aux législations
La législation apparaît comme une nécessité à laquelle il faut se conformer et une exigence centrale dans certaines organisations comme
les banques. Néanmoins, la conformité aux exigences légales ne doit pas faire perdre de vue les autres enjeux éthiques qui peuvent
apparaître. Il ressort de nombreux entretiens que la loi est un élément de motivation important pour inciter les organisations à agir de
manière éthique, même si la conformité légale ne suffit pas à garantir la responsabilité sociale.
Quelle éthique dans l’entreprise 2020 ?
De plus en plus, la société attend des organisations qu’elles adoptent un comportement éthique, aussi bien dans la manière dont elles
mènent leurs activités que dans la manière dont elles utilisent les technologies, que ce soit pour leurs clients, leurs utilisateurs, leurs
salariés ou pour les régulateurs. Il ne s’agit plus seulement d’améliorer le système d’information pour augmenter l’efficacité des métiers,
mais de prendre en compte son impact sur la vie quotidienne des individus. Clients et salariés attendent désormais bien plus qu’avant un
comportement éthique.
Mars 2013
Pour l’entreprise 2020, cela signifie que la responsabilité sociale ne sera plus perçue comme un coût ni comme une obligation légale. De
plus, les enjeux éthiques changent : outre les questions habituelles de sécurité ou de protection de la vie privée, ils vont inclure des
notions comme la confiance, l’exclusion sociale, la surveillance, la liberté, la fiabilité, les pertes d’emploi ou le contrôle.
L’innovation et l’adoption de nouvelles technologies ne seront plus tournées vers le seul espace de l’entreprise, mais vont passer par des
processus plus ouverts, incluant les clients et les utilisateurs finaux.
Quelques recommandations de gouvernance
Les problèmes principaux dans le traitement des enjeux éthiques liés aux technologies dans les organisations concernent une conscience
insuffisante des enjeux éthiques, un processus d’établissement des règles faible, un manque de consultation des parties prenantes, un
manque d’adhésion du management senior et des problèmes de communication.
On peut donc formuler les recommandations suivantes :
Prendre le contexte en compte
 Impliquer la société à toutes les étapes, prendre en compte l’acceptation et non l’acceptabilité.
 Examiner les particularités des technologies, ne pas se limiter à une liste d’enjeux ni une évaluation des risques.
Accroître la réflexivité et l’ouverture






7
Mettre en œuvre un mécanisme de réflexion et de justification sur les bases des projets IT
Connecter les communautés éthique et informatique
Utiliser la narration et l’expérience pour ouvrir les esprits
Confronter les professionnels à leurs propres aprioris
Montrer l’impact sur la société des nouveaux développements technologiques
Montrer que la technologie n’est pas neutre et qu’elle véhicule des valeurs
ISD, les essentiels
Identification et gouvernance des enjeux éthiques émergents dans les systèmes d’information




Montrer les avantages d’une vigilance éthique constante
Etre prêt à payer le prix nécessaire pour mettre les principes éthiques en application
Permettre aux individus d’exprimer des préoccupations d’ordre éthique dans les projets
Donner des outils aux professionnels pour qu’ils puissent s’exprimer.
Simplifier les procédures
 Baser les procédures sur la réflexivité personnelle
 Placer les discussions sur les normes dans un cadre ouvert, où chacun peut être écouté.
Montrer les constructions éthiques de l’intérieur
 Montrer comment la narration, l’interprétation, l’argumentation et la reconstruction ont chacune un rôle dans le processus de
construction d’une norme éthique et dans le mécanisme d’application.
 Montrer que l’application d’une norme ne peut être réduite à une question de conformité, mais qu’elle doit être réflexive et
nourrir la construction de la norme.
Mars 2013
En conclusion
Cette étude a mis en évidence un manque de réflexivité de la part des professionnels informatiques, ainsi qu’une forte tendance à
réduire l’éthique à un seul enjeu. Les personnes interrogées se basaient avant tout sur leur propre système de pensée pour leurs
décisions quotidiennes, et rendaient souvent les utilisateurs responsables des mauvais usages de la technologie. Les chercheurs ont
également montré les limites et présupposés des principales théories de l’éthique.
Ils suggèrent de prendre en compte le contexte dans le processus de construction d’une norme, et notamment les valeurs et l’expérience
personnelle. Les auteurs conseillent également d’amener les individus à questionner le cadre dans lequel ceux-ci agissent et pensent, ceci
afin de leur permettre de voir de l’intérieur les mécanismes qui construisent la norme et participent aux décisions éthiques, tout en y
prenant part.
Ils suggèrent de confronter les individus à leurs propres présupposés et à d’autres points de vue. Ils recommandent de démarrer la
réflexion éthique dès le début des projets, avant que les problèmes n’apparaissent, et d’y inclure l’ensemble des parties prenantes.
Synthèse librement écrite par le CIGREF, à partir des rapports remis par les chercheurs dans le cadre des travaux de recherche menés pour le programme
ISD de la Fondation CIGREF. Ces travaux pourront faire l'objet de publications scientifiques (ex: Springer-Collection « Espaces numériques »).
9
ISD, les essentiels
Identification et gouvernance des enjeux éthiques émergents dans les systèmes d’information
Le Comité scientifique de la Fondation CIGREF
Pr. Ahmed Bounfour
Université
Paris Sud 11
Pr. M. Lynne Markus
Bentley
University
Pr. Pirjo Stahle
Finland Futures
Research Center
Jean-Eric Aubert
World Bank
Institute
Pr. S. K. Batra
Institute
of Management
Technology Ghaziabad
Pr. M Beaudouin-Lafon
Université
Paris Sud 11
Pr. P-J Benghozi
École
Polytechnique
Pr. M. Cavalcanti
Federal University of
Rio de Janeiro
Pr. Leif Edvinsson
University
of Lund
Patrick Fridenson
EHESS, Centre
de Recherches
Historiques
Dominique Guellec
OCDE, Senior
Economist
Pr. Tom Housel
Naval postgraduate
School of management
Pr. Juinichi Iijima
Tokyo Institute
of Technology
Pr. Moez Limayem
University
of Arkansas
Pr. Rik Maes
University
of Amsterdam
Pr. P. Meusburger
University
of Heidelberg
Pr. Ian Miles
University
of Manchester
Pr. Yves Pigneur
Université
de Lausanne
Gérald Santucci
Cion Européenne, DG
Société de l’Information
Pr. Frantz Rowe
Université
de Nantes
Pr. Eric Tsui
Hong Kong
Polytechnic
University
La Fondation CIGREF bénéficie du soutien de :
Suivre, commenter, partager l’actualité sur le blog
de la Fondation CIGREF
www.fondation-cigref.org
Mars 2013
11
ISD, les essentiels