L’Éthique et l’IT

L’éthique est un ensemble de valeurs morales socialement approuvées. Faire preuve d’éthique signifie savoir ce qui est « bien », et s’appliquer dans ce sens. On entend par « bien » ce qui d’après un consensus et des valeurs communes, ne blessent ou n’atteignent pas à la dignité d’autrui. Dans le domaine professionnel, on fait preuve d’éthique lorsque l’on agit pour le bien de son équipe, de son entreprise ou de ses clients. Cela implique aussi bien une aide apportée à un collègue qu’une application particulière lors d’une prestation ou lors de la création d’un produit. L’éthique est mise à l’épreuve lorsqu’un choix doit décider de ce qui est « mieux » pour tous les protagonistes, en cherchant à ne pas léser les personnes innocentes dans le processus de production. Est-ce qu’une entreprise doit faire un effort d’un point de vue hygiénique, au risque de perdre de la rentabilité ? Est-ce qu’être consciencieux de l’environnement est préférable, quitte à ce que cela impacte l’activité ? Ces dilemmes se résolvent par une analyse d’un grand nombre de valeurs morales nous permettant de savoir comment agir. Au-delà de la simple notion de bien et mal, la loi vient généralement sanctionner les agissements qui vont à l’encontre du bien public, comme c’est le cas pour le scandale Volkswagen.
Mais dans le domaine informatique, cette notion d’éthique prend des formes très particulières, car elle touche des sujets qui évoluent vites, voire complètement nouveaux : les données personnelles, les algorithmes et l’intelligence artificielle.

 

Données (im)personnelles

En 2008, le nombre d’utilisateurs sur le web était de 1,4 milliard. En 2018, c’est plus de 4 milliards d’individus qui transmettent des informations quotidiennement, dont beaucoup sont personnelles. Non seulement la quantité d’information a explosé, mais sa qualité est elle aussi devenue critique : les cookies permettent de savoir où, quand, quoi, comment on utilise nos périphériques. Les réseaux sociaux détiennent des informations bien plus personnelles que l’on ne pense : le dernier film vu au cinéma, si l’on a déménagé récemment, notre religion ou notre orientation politique. C’est dans cette optique de protection que l’Union européenne a appliqué le Règlement Général de Protection des Données, afin de forcer les entreprises à appliquer plus de transparence aux données qu’elles détiennent.

Lire aussi : « La pollution numérique est le prochain enjeu environnemental mondial », Inès Leonarduzzi

Les données personnelles sont un bien inaliénable, ce qui veut dire que l’entreprise qui les détient n’a pas de propriété sur celles-ci, elle est seulement responsable de les garder en sécurité, ou de les proposer à des entreprises tierces avec consentement. Mais que se passe-t-il lorsqu’une entreprise se fait voler des données, ou que celles-ci sont rendues publiques ? Citons le cas du site Ashley Madison, site de rencontre et d’adultère en 2015 qui forçait les utilisateurs à prendre un compte premium pour avoir le droit de détruire toutes les données de ceux-ci. Des hackers ont pris pour cible le site, et révélé plus de 10 Gb de données permettant de facilement identifier les personnes inscrites sur le site. L’entreprise a dû régler près de 11,5 millions de dollars en dommages et intérêts. À l’inverse, le scandale de Cambridge Analytica et Facebook n’a pas donné de suite aux dommages irréversibles causés, comme l’influence politique des élections américaines, ou même sur le vote du Brexit. Ce qui pose encore une fois la question de forte responsabilité qu’ont les entreprises quant à la protection de nos données.

blocs effets spéciaux

L’algorithme : Abracadabra ou Avada Kedavra ?

Le débat autour des algorithmes et de l’IA d’un point de vue éthique diffère de celui sur les données personnelles. L’avis des entreprises comme les politiques est encore incertain sur leurs utilisations et l’impact qu’ils ont sur notre société tout entière.

Partons des algorithmes : en soi, ce ne sont qu’un ensemble de règles autour de données, une sorte de boîte magique que l’on nourrirait d’informations, et qui nous donnerait une réponse toute faite. Deux questions se posent à ce niveau : qui crée ces règles ? Sont-elles créées pour être « juste » envers tous les acteurs ou simplement à l’entreprise ? Certains algorithmes dans le domaine de l’assurance sont discriminants, car ils prennent en compte des éléments non imputables à l’intéressé (lieu de résidence, situation familiale…). Le manque d’éthique revient ici aux créateurs de l’algorithme, qui l’ont conçu en toute connaissance de cause.

Lire aussi : Brave — La saga rugissante d’un navigateur bienveillant

La problématique survient lorsqu’un consensus éthique n’est pas encore établi concernant une technologie nouvelle, comme la voiture autonome.

Un Uber autonome a renversé et tué une femme en Arizona en mars dernier. D’après un article de The Economist, le véhicule aurait aperçu la cycliste, dans un noir complet, 6 secondes avant l’impact, mais l’aurait identifié comme un objet inconnu, puis comme une voiture, et enfin en tant que cycliste. On ne sait vers qui renvoyer la faute, techniquement les voitures autonomes ont une meilleure visibilité, sans parler d’une vitesse d’analyse et de réaction plus rapide qu’un automobiliste, mais à qui revient la faute lorsque l’une d’elles provoque un accident mortel ? Est-ce la faute de l’automobiliste assoupi au volant, ou à celle d’Uber pour ne pas avoir un algorithme infaillible ?

Certaines entreprises recrutent même des philosophes pour résoudre le fameux dilemme du tramway : qu’est-ce que notre éthique à nous en tant qu’humain, nous pousse à faire dans une situation où un accident ne peut être évité ? Et est-ce qu’un algorithme peut imiter une démarche morale aussi poussée ? C’est ce qu’essaie de résoudre Nicholas Evans en traduisant un langage éthique en code.

Le but de l’éthique n’est pas de transformer les ingénieurs en philosophes, ou inversement, mais plutôt de rappeler l’impact qu’à la technologie sur notre société. Cette idée de conscience que beaucoup d’entrepreneurs tendent à mettre de côté permet de garder une confiance, voire une foi, aux entreprises IT on ne peut plus nécessaires en ces temps d’incertitudes.

Lionel Taverny
Lionel Taverny
Conteur parisien, auteur de "La disruption expliqué aux personnes âgées". Pourfendeur de GIFs, Reddit addict et Expert du Gaming. Officiellement Social Media Manager, officieusement scrolleur professionnel.