Digital Society Forum Digital Society Forum
Focus 09/07/2020

Quand l'IA fait sa loi

Le bon, la brute et le truand réalisé par Sergio Leone (1968). On a tous en tête la scène du duel, enfin du triel, final emportée par la musique d'Ennio Morricone, décédé le 6 juillet 2020. Mais qu'ils soient dits bons, brutes ou truands, les personnages de Leone sont tous mus par l’appât du gain...
Ce nouveau cycle a pour objet de répondre à une question fondamentale : comment le droit se saisit aujourd’hui de cet obscur objet qu’est l’intelligence artificielle ? Entre état de la régulation et enjeux à venir, le Digital Society Forum fait le point sur la question.

Le vaisseau Battlestar Galactica doit faire face à un nouvel assaut des Cylons, ces robots humanoïdes qui n’ont qu’un seul objectif : détruire leurs créateurs humains. En 2029, Skynet, une intelligence artificielle a pris le contrôle de machines pour anéantir l’humanité et envoie dans la passé un assassin, baptisé Terminator, pour effacer de l’histoire le leader de la résistance. On pourrait poursuivre longtemps la liste de ces immenses succès de la science-fiction moderne dans lesquels des intelligences artificielles se rebellent et prennent le contrôle de l’humanité. Mais la question qui nous intéresse ici est celle qui taraude souvent les héros de ces dystopies : comment en est-on arrivé là ? Comment l’humanité a-t-elle pu se laisser dépasser par sa création, faisant fi des avertissements nombreux issus de ses mythes fondateurs, du Golem à Frankenstein en passant par Prométhée ?

Pas de quoi paniquer : nous sommes encore loin, en 2020, de l’advenue de ce genre de prophétie dystopiques fondées sur l’apparition d’une intelligence artificielle dite “générale” ou “forte ”, qui dépasserait les capacités du cerveau humain. Et encore plus de la singularité technologique , hypothétique point auquel une superintelligence ferait basculer l’humanité dans une nouvelle ère. Mais si une solution existe pour éviter les usages néfastes de ces technologies, il se peut qu’elle réside dans la régulation. Et donc, du côté du droit. La Commission nationale de l’informatique et des libertés (CNIL ), ne disait pas autre chose dans un rapport publié fin 2017 : le spectre d'une IA forte issue “d’un imaginaire apocalyptique alimenté par le cinéma hollywoodien” ne doit pas être “un moyen d’éluder de plus sérieux problèmes – éthiques, voire tout simplement juridiques – que posent déjà et à brève échéance les progrès effectifs de l’IA faible”.

Car si nous ne vivons pas (encore) dans la Matrice, d’immenses bases de données traitées à l’aide d’algorithmes ont dès aujourd’hui des applications concrètes sur nos vies, connectées ou non. Reconnaissance faciale , santé , éducation, assistants vocaux , transports … autant de secteurs dans lesquels l’intelligence artificielle se déploie déjà, ayant parfois des impacts négatifs considérables. Comment ne pas s’inquiéter des excès de la reconnaissance faciale quand, début janvier, un homme noir a passé trente heures en détention parce qu’un algorithme avait jugé identiques la photo de son permis de conduire et celle d’un voleur de montres ? Sans parler des abus dans l’utilisation de cette technologie par le régime chinois pour contrôler sa population. Comment ne pas être pris de vertige quand se pose la question de la responsabilité juridique au cours d’un accident provoqué par une voiture “autonome” ? Et quel niveau de protection peut-on espérer pour nos données de santé lorsqu’elles seront, comme le veut le gouvernement, toutes centralisées au sein d’un Health Data Hub dopé à l’intelligence artificielle ? Comment ne pas se dire que l’on bascule progressivement dans un épisode de la série dystopique Black Mirror quand le concept de crédit social chinois (visant à mettre en place un algorithme de notation des citoyens) fait déjà des émules ?




Sous nos latitudes, les associations de défense des libertés numériques alertent depuis des années sur les dangers d’une expansion des technologies de surveillance dopées à l’intelligence artificielle. Mais aucun pays ne peut aujourd’hui se targuer de disposer d’un système juridique clair et cohérent pour encadrer le développement de ces technologies.

Comment, dès lors, garantir une protection adéquate des citoyens ou des consommateurs ? La réponse à cette question élémentaire n’est pas simple : le droit est réputé frileux et la jurisprudence met du temps à progresser. Pourtant, partout dans le monde, la matière juridique s’adapte déjà à ces évolutions technologiques. Et derrière des acronymes parfois étranges comme CNIL ou RGPD se cachent nombre de juristes, avocats ou législateurs qui travaillent quotidiennement à ce que la loi s’applique à des dispositifs technologiques. En ferraillant parfois avec des créateurs qui tentent parfois de s’affranchir des règles.

Le droit existant est-il suffisant pour réguler les avancées technologiques du secteur ? Faut-il vraiment produire des cadres juridiques spécifiques à l’intelligence artificielle pour éviter de subir la loi des algorithmes ? Des règles éthiques strictes seront-elles suffisantes pour éviter les dérives potentielles en termes de libertés publiques et de vie privée ? Et, si elles existent, comment les faire respecter dans le monde entier ? Comment faire pour que l’intelligence artificielle servent les intérêts des êtres humains : qu’elle soit bonne, et ne se transforme pas en brute, ou en truand. Et comment s'assurer, au-delà des bonnes intentions affichées, qu'à travers elle, ce ne soit pas l'appât du gain qui l'emporte à la fin. Autant de questions, essentielles et passionnantes, auxquelles nous tenterons de répondre en nous entretenant avec des experts et spécialistes du sujet.


Restez connectés …

A lire dans ce cycle :


« L'Europe pourrait devenir le régulateur mondial en matière d’IA »

Entretien avec le professeur de droit Frank Pasquale.


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Romain Soulier
Romain Soulier 17/07/2020 06:43:52

Un sujet bien vaste qui mérite de s'y intéresser


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF