janvier 10, 2022

Les dilemmes éthiques des « data scientists »

Par andy1712


Il y a quelques semaines, Luis a choisi de quitter l’équipe « données » de l’entreprise en marketing digital qu’il avait intégrée à la suite de son diplôme. À 26 ans, ce jeune Lyonnais passionné par la technologie et l’innovation est devenu un scientifique des données expérimenté, mais déçu : « Après trois années dans le monde professionnel, je savais parfaitement comment utiliser les mathématiques pour détecter les risques de fraude, certes, mais je ne parvenais toujours pas à voir mon impact positif sur la société », confie-t-il.

Si la « science des données » fait briller les yeux de ceux qui la touchent du doigt, les enjeux qu’elle renferme semblent souvent peser sur la conscience. Consommation énergétique massive pour faire fonctionner les data centers et entraîner de puissants modèles, manipulation de milliards de données personnelles, impression, pour certains, d’une course « à la croissance, au digital ou à la surveillance » : les raisons de dilemmes éthiques sont nombreuses.D’autres, encore vont jusqu’à affirmer que certains algorithmes « menacent les bases de la démocratie ».

Excès du secteur

Ces critiques sur les excès du secteur ne datent pas d’hier, mais elles ont récemment pris une nouvelle ampleur par le biais de documentaires, de témoignages auprès du grand public et de quelques sursauts dans la réglementation. En septembre 2020, l’ancienne scientifique des données chez Facebook, Frances Haugen, divulguait ainsi une série de documents révélant les dérives, le cynisme et le manque de transparence des algorithmes du réseau social le plus utilisé du monde, avant de poursuivre pour plusieurs semaines sa prise de parole devant une liste de législateurs européens.

Alors qu’elle n’y a pas encore mis les pieds, Laura, 25 ans, s’interroge sur le sens de son futur métier. Depuis les bancs du master Data Management & Business Analytics de l’Edhec, elle tente de relativiser : « De toute façon, les données existent déjà et elles sont bien stockées quelque part : ne pas les exploiter serait un vrai gâchis ! » Elle estime qu’une partie de l’effort peut se jouer, par exemple, dans le choix de méthodes de stockage et de circulation des données « plus saines ». Comprendre : à faible empreinte carbone.

Opportunité sociale ou écologique

Le master inclut d’ailleurs un large volume d’heures de cours sur l’éthique, signe du besoin pour la future génération de scientifiques de faire cohabiter le monde des données avec ses valeurs. À l’image de Luis, qui envisage désormais d’intégrer un nouveau bureau d’études pour servir des projets axés sur le progrès de la santé ou de l’environnement. « J’aimerais aussi me rapprocher de la communauté Data For Good pour proposer des services gratuits à des associations qui, elles, vont dans le bon sens ! », précise-t-il.

Car, correctement encadrée, l’exploitation du big data peut aussi avoir son rôle à jouer comme opportunité sociale ou écologique : elle nous permet, par exemple, de mieux appréhender la manière dont nous consommons, pour optimiser l’usage de l’énergie.