Enjeux éthiques du « Big Data » : Opportunités et risques

1
Enjeuxéthiquesdu«BigData»:Opportunitésetrisques
Séminaireorganiséparlegroupe«StatistiqueetenjeuxPublics»delaSFdSle22mai2014
AccueilduDirecteurduGroupeNationaldesEcolesd’Economieetde
Statistiques
AntoineFrachot,directeurduGENES–Groupedesécolesnationalesd’économieetdestatistique–
souhaitelabienvenueauxparticipantsdansleslocauxdel’ENSAE.LeGENESregroupedeuxécoles,
l’ENSAIetl’ENSAE,quitoutesdeuxontdéveloppédesfilièresspécifiquementdédiéesauxBigData;
uncentrederecherche,leCREST,etuncentredeformationcontinueleCEPE;etlecentred’accès
sécuriséauxdonnéesCASD.Cedernieraétéconçupourpermettreàdeschercheursdetravaillersur
lesdonnéesconfidentiellesdelastatistiquepubliquefrançaise:actuellement,plusde600chercheurs
françaisouétrangersytravaillentsurdesdonnéesdel’Insee,deservicesstatistiquesdeministèresou
encoresurdesdonnéesfiscales,quitoutesprésententunhautdegrédeconfidentialitéetde
sensibilité.Acesdonnéess’ajouterontpeut‐êtreunjourdesdonnéesdesanté.LeCASDpermetces
travauxderecherchetoutenassurantauxcitoyensetauxentreprisesledegrédesécurisationauquel
ilsontdroit.Avecd’autresinitiativescommeleprojetTeralab,ouleportailDatascience.net,leCASD
constitueunécosystèmequitémoignedelavolontéduGENESd’êtreprésentdanslafilièredesBig
Data,avecunecompétenceparticulièresurlesquestionsdeconfidentialitéetdesensibilitédes
données:d’oùsongrandintérêtpourleséminaired’aujourd’hui.
IntroductiondelajournéeparLaprésidentedelaSFdS
AnneGégout‐Petit,présidentedelaSociétéFrançaisedeStatistique,sefélicitequelaSFdSaitpu
organisercettejournée,pouraborderlemondetouffudesBigDataparcertainsdesesaspectsles
plusimportants:lesenjeuxsociauxetéthiques.LaSFdS,c’estunesociétésavantede1200membres,
statisticiensdumondeacadémiqueaussibienquedel’industrieoudel’administrationpublique.Sa
missionestlapromotiondelasciencestatistiqueetdumétierdestatisticien.Pourremplircette
mission,elleorganisedescolloques,deséchanges,desateliers,etpubliedesrevues:leJournaldela
SFdS,revuescientifique,CS‐Bigs,revued’étudedecas,Statistiqueetenseignement,Statistiqueet
société.LaSFdScomptequinzegroupesthématiquesquiseconsacrentlesunsàundomaine
d’application,d’autresàundomainescientifique,d’autresenfinàunethématiqueparticulière.Le
groupeStatistiqueetEnjeuxPublics,quiorganiseleséminaired’aujourd’hui,etaussidesCafésdela
StatistiquemensuelsàParis,seconsacreàréfléchir,etàfaireréfléchirsurcequec’estdemanipuler
lastatistiquedanslemonded’aujourd’hui:qu’estcequecelasignifie,qu’est‐cequecelaimplique
aussicommerelationsaveclerestedelaviesociale.
LadéfinitiondesBigDatapassetraditionnellementparl’évocationdestrois«V»:Volume,Vitesse,
Variété.Maisilyaaussid’autres«V»:neserait‐ceque«Véracité»‐onsesouvientquedefaux

2
tweetsontpuentraînerunebaisseduNASDAQ–et«Valeur»,rappelantlesenjeuxéconomiques
quis’yattachent.Silemarketingestl’aspectleplusconnu,desdéveloppementsimportants
s’amorcentdansl’industrie,enmédecine,dansl’environnement.Sansoublierleprogrèsdela
connaissancescientifiqueetdel’informationdescitoyenssurleursdroits.Toutescesréalisationsou
cesperspectivesposentdesquestionsd’ordreéthique:parexemple,doit‐oninformerlespersonnes
desrisquesdemaladiequ’ellescourentdufaitdeleurpatrimoinegénétique?Doit‐onlaisserguider
lespolitiquesetlesdécisionsparletraitementdedonnées?Pluslargement,quelleplacepourle
citoyendanscemondebaignédedonnées?
Leprogrammedelajournéevapermettred’abordertouscessujets:quelesorganisatricesensoient
remerciées!
PanoramadesapplicationsduBigDataetdelaDataScience
ArnaudLaroche,fondateurdeBluestone,sociétédeconseilen«DataScience»,situed’abord
l’émergenceactuelleduphénomène«BigData»(«lapressionmonte»)commeconséquencede
quatreévolutions,dontdeuxpeuventêtrequalifiéesderévolutions:
- ladigitalisationdenotremonde,élémentdéclencheur:noussommesdésormaisentourésde
capteurs,nouslaissonspartoutdestracesinformatiques;
- leremplacementdegros«supercalculateurs»parunemyriadedepetitesmachines
travaillantenparallèle,dontlenombrepeutêtreaugmentéouréduitenfonctiondes
besoins.Cetterévolutiontechnologiquediviselesinvestissementsrequispourentrerdansce
domaineetlesmetàportéedepetitessociétésinnovantes;
- leprogrèsdelasciencedesalgorithmescapablesd’opérersurdetrèsgrosvolumesde
données:«machinelearning»,réseauxdeneurones,etc.Acetteoccasionrenaîtlavieille
controverse(déjàprésenteenFrancelorsdurenouveaudel’analysefactoriellevers1970)
entrelesanalyses«conduitesparlesdonnées»etlesanalysesreposantsurdesmodèles.
Lesdeuxécolesdevraientserépondreplutôtques’opposer…;
- lechangementd’attitudedesdirigeantsvis‐à‐visdesdonnées,sortederévolutionculturelle:
autrefois,lesdonnéesdel’entrepriseétaientvuescommedessous‐produitsdesactivitésde
gestion,analyséespardeséquipesde«data‐mining»dontl’influencedansl’entrepriseétait
réduite;aujourd’hui,onconstruitdesapplications,desservices,desprocessusquisont
conduitsparlesdonnées.Le«buzzmédiatique»estàlafoiscauseetconséquencedecette
sensibilisationdu«management».
ArnaudLarocheprésenteensuiterapidementuneclassificationdes«casd’usage»desBigDataen
septgrandsgroupes(voirsadiapositive).Lesusageslesmieuxconnusrelèventdelapersonnalisation
dela«relation‐client»,maisilfautnoterledéveloppementrapidedesusagesindustriels(comme
«piloterentempsréelleréseauélectrique»),delamaintenanceprédictive(alertersuffisammenttôt
surlaprobabilitédedéfaillanced’unélément),etdelagestiondurisque,oùlesalgorithmesse
centrentdeplusenplussurlespersonnesplutôtquesurlesgroupes.Mentionparticulièreestfaite
delacréationd’indicateurséconomiquesavancésàpartirdedonnéescaptées«danslavraievie»,
sansplanderecueilpréalable:cesnouveauxindicateurspeuventremettreencauseceuxdes
systèmespublicsdestatistiques.

3
PourArnaudLaroche,laprogressionactuelledesBigDataposedeuxtypesdequestionséthiques.Les
premières,lesplusconnues,concernentlaprotectiondesconsommateursetdescitoyenscontrele
dévoilementdeleursdonnéespersonnelles.Laquestionaradicalementchangéparrapportàcequi
prévalaitilya60ans:ondélivredel’informationsursoiàbeaucoupplusdegens,sanssavoirquiils
sont,oùilssont,etsansmaîtrisercequ’ilspeuventenfaireetavecquiilspeuventlespartager.
L’enjeuestderendreunemaîtrisedesesinformationsauconsommateuretaucitoyen.Maiscene
sontpaslesseulesquestionséthiquesposéesparlesBigData.Seposeaussilaquestiond’une
éventuelle«sur‐mathématisationdumonde»,c’est‐à‐diredunombredeplusenplusgranddes
décisionsprisespardesmachines.Qu’ils’agissedefinance,dedécisionsconcernantdespersonnes,
desinteractionssociales,l’invasiondesalgorithmesn’estpasunmythe:unesociétévientmêmede
faireentrerunrobotdanssonconseild’administration!StephenHawking,cosmologiste,alertesur
lesdangersdel’intelligenceartificielleetsurunepossiblepertedecontrôledel’hommesurla
machine:sommes‐nousàlaveilled’unegrandecatastrophe,quenousannonceraientàjustetitre
desœuvresdefictioncontemporaines?
Etatdeslieuxdelaréflexionsurlaprotectiondesdonnéesauxniveaux
françaisetinternational
SophieVulliet‐Tavernier,directricedesrelationsaveclespublicsetlarechercheàlaCNIL,décrittout
d’abordle«modèleeuropéen»pourlaprotectiondesdonnéespersonnelles:celle‐ciestconsidérée
commeundroitfondamental,inscritdanslaloiettraduitpardesrèglesdebonusage,etcedroitest
protégéparuneautoritéadministrativeindépendantedisposantdepouvoirsdesanction,quiesten
FrancelaCNIL.Cemodèlen’estpasuniversel:seuls80Etatsdisposentdeloisdeprotectiondes
données,etparexemplelesÉtats‐Unisn’ontpasdeloifédéralegénéralesurlaprotectiondes
données,seulementdesloissectoriellesoudesloisdanscertainsÉtats.
LerôledelaCNILévolue:samissiondecontrôle«traditionnelle»(contrôledesdéclarationsde
fichiers)tendàdiminuerenpoidsrelatif;samissiondesanction,récemmentillustréedanslecasde
l’amendeinfligéeàGoogle,gagneenpuissancegrâceauxretombéesmédiatiquesdecesdécisions;
l’évolutionsefaitsurtoutauprofitdel’activiténouvelled’accompagnementetdeconseilaux
porteursdeprojet,notammentdansledomainedesBigData,activitépourlaquellelaCNILaliédes
partenariatsavecdiversorganismesenparticulierdansledomainedelarecherche1.Ils’agiteneffet
defairefaceauxnouveauxdéfisdutemps.
Ceux‐cisontd’abordposésparl’évolutiontechnologique:lacaptationautomatiquededonnéesà
l’insudesindividussebanalise.Etparl’évolutionéconomique:ladonnéepersonnelleestaucœur
desmodèleséconomiquesdunumérique.Laglobalisationestprésenteaussi:lesacteurs‐cléssont
auxÉtats‐Unis,etnes’estimentpassoumisàlalégislationeuropéenne.Plusprofondément,lesdéfis
viennentdel’évolutiondesusagesetdescomportements:lesnouveauxservicesquiémergent
proviennentnonseulementdescapteursdedonnéespersonnellesmaisaussidubesoinlégitimedes
1 L’INRIA(Institutnationalderechercheeninformatiqueetenautomatique),laconférencedesgrandesécoles,Mines‐
Télécom…

4
individusdes’exprimer,departagerleursinformationsavecleursproches,etc.Etlescomportements
sontambivalents:mélangedefascinationdevantlatechnologie,depassivitéparrapportausoucide
«privacy»,enmêmetempsmontéedespréoccupations…maispasdesprécautions2!Dernierdéfi
enfin,celuidelasécurité,tantvis‐à‐visdestiersquedespuissancesétrangères:ilnesepassepasde
semainesansqu’onapprenneunenouvellefailledesécurité.
Lesimpactsdecesévolutionsentermesdeprotectiondesindividussontinquiétants:pourrésumer,
lesrisquessontaccrus,lesdroitssontpeuexercés,etlesobligationssontmalrespectées.
PouranalyserlerapportentrelesBigDataetlaprotectiondesdonnées,ilfautd’abordrappelerles
définitionsdesdonnéespersonnellesetdesdonnéessensibles.Selonlaloifrançaise,«constitueune
donnéeàcaractèrepersonneltouteinformationrelativeàunepersonnephysiqueidentifiéeouqui
peutêtreidentifiée,directementouindirectement,parréférenceàunnumérod’identificationouàun
ouplusieursélémentsquiluisontpropres.Pourdéterminersiunepersonneestidentifiable,ilconvient
deconsidérerl’ensembledesmoyensenvuedepermettresonidentificationdontdisposeouauxquels
peutavoiraccèsleresponsabledutraitementoutoutautrepersonne»(article2).Cettedéfinitionest
interprétéedefaçonlargeparlaCNIL,aucasparcasselonlanaturedesdonnées,l’importance
relativedel’échantillondepopulationconcernée,etc.Celapeutprovoquerdesincompréhensions
aveclesacteursdel’OpenDataetduBigDataquionttendanceàcroirequ’unedonnéeoùnefigure
pluslenomniaucunnuméroidentifiantn’estplusunedonnéepersonnelle.LaCNILfournitdes
conseilspouruneréelleanonymisation,etpoursuitavecl’INRIAdesrecherchessurcethème(de
mêmequesonhomologueauRoyaume‐Unilefaitavecdiverspartenairespublics).Laloidéfinitaussi
lesdonnéessensibles:«ilestinterditdecollecteroudetraiterdesdonnéesàcaractèrepersonnelqui
fontapparaitredirectementouindirectementlesoriginesracialesouethniqueslesopinionspolitiques,
philosophiquesoureligieusesoul’appartenancesyndicaledespersonnesouquisontrelativesàla
santéouàlaviesexuelledecelles‐ci»(article8;ilexistedesdérogations).
LesBigDataobligentàréexaminercesconcepts.Ils’agitdestockageetd’analyseencontinudetout
typededonnées:structuréesounonstructurées,textes,photos,vidéos,etc…Lafrontièreentre
cellesdecesdonnéesquineposentpasdeproblèmeetcellesquisontpotentiellementpersonnelles
et/ousensiblesesttrèsdifficileàtracer:onpeutpenserquebeaucoupdecesdonnéessont
potentiellementpersonnellesparrecoupement.Etquepenserdesdonnéesprédictivesde
comportements?Cesontsansdoutedenouvellesdonnéessensibles,pourlesquellesunnouveau
modederégulationpourraitêtreenvisagé.
IlfautdoncsoumettrelesBigDataàl’épreuvedelagrilled’analysedelaprotectiondesdonnées,qui
comportecinqcritères:
‐Finalité,proportionnalité
‐Pertinencedesdonnéestraitées
‐Conservationlimitéedesdonnées
2Parexemple,65%desutilisateursde«smartphones»déclarentêtrepréoccupésdelaconfidentialitédeleursdonnées,
mais30%n’ontpasdecodedeverrouillage

5
‐Sécuritéetconfidentialité
‐Respectdesdroitsdesintéressés:loyautéettransparence(droitàl’information,
consentement,droitd’opposition,droitd’accèsetderectification)
SurchaquepointdecettegrillelesBigDataposentquestion.Onpeutensoulignerquelques‐uns:
- Parprincipe,leBigDataestfondésurl’interconnexionetlacentralisationdetoutesles
donnéespossibles;
- Finalitéimprécise:dansleBigData,oncherchedescorrélations,sanssavoirapriorisurquoi
onvas’arrêter;
- Pertinence:quiddesalgorithmesdécisionnelsetdeleuréventuelle«dictature»?ilnefaut
pasoublierquelaloiinterditquedesdécisionsconcernantdespersonnespuissentêtre
prisesparvoieautomatique(article10);
- Collecteloyale:sichacunpeutêtretenupourresponsabledestracesqu’illaissedans
l’espacepublic,lewebsocialn’estpasunespacepublic,etsesparticipantsontdesdroitsvis‐
à‐visdelacollectedeleursdonnées.LeConseild’Etatdanssonarrêté«PagesJaunes»du13
mars2014adonnéraisonàlaCNIL,àproposdel’obligationd’informerlesinternautessurla
collected’informationsissuesduwebsocial;
- Sécurité:lesdifférents«clouds»sontendehorsdelajuridictiondel’UnionEuropéenne.
Lecadrejuridiquedevra‐t‐ilévoluer?Pourlesfinalitésderechercheetdestatistiques,etpourla
conservationàdesfinshistoriquesouscientifiques,desexceptionsetdesdérogationsontdéjàété
définies.Lefuturcadreeuropéensedessine–unrèglementestenpréparation.Ilprévoiraun
renforcementdudroitdespersonnessurleurspropresdonnées–àsignalerqu’unrécentarrêtdela
Courdejusticedel’UnioneuropéenneafaitobligationàGooglederespecterle«droitàl’oubli».Le
nouveaurèglementrenforceralaresponsabilitédesentreprisesenfaisantdisparaîtrecorrélativement
lesdéclarations.Unencadrementspécifiqueseraprévupourlestraitementsderechercheetde
statistique,dontilresteencoreàbiendéfinirlechamp.Uncadreallégépourraitêtredéfinipourles
données«pseudonymisées»,c’est‐à‐direlesdonnéesdontl’identifiantindividuelaétéremplacépar
undérivécrypténepermettantpasdeleretrouver.Resteàpréciserquelcontrôleseraexigé,etpar
quiilseraexercépourcesdispositions,quipeuventconcernerlarecherchemédicale,l’évaluationdes
modèlesdesoins,etc.Ildevraityavoiraussidescontrepartiesauxdérogations,enparticulierde
façonquesoitrespectéleprincipe«pasdedécisionconcernantlesindividusprisedefaçon
automatique».
BigDataetRelationClient:quelimpactsurlesindustriesetactivitésde
servicestraditionnelles?
FrançoisBourdoncle,co‐fondateurdelasociétéExalead,pionnièredanslesdomainesdesmoteurs
derechercheetduBigData,faitentendreunetonalitédifférente.Ilconsidèrecommerévélateurle
titredelajournée:«EnjeuxéthiquesduBigData».CommetoujoursenFranceetenEurope,leBig
Dataestd’abordenvisagécommeunproblème,lesopportunitésqu’iloffrenesontconsidéréesqu’en