Digital Society Forum Digital Society Forum
Focus 29/05/2020

LES HUMAINS DERRIÈRE L’IA : A quoi rêvent ceux qui rêvent des algorithmes ?

Cette photo est extraite du site ThisPersonDoesNotExist.com , elle a été créée par un réseau adverse génératif (GAN). Cet enfant n’existe donc pas... ou pas encore.
Ce nouveau cycle autour de l’IA s’intéresse à l’influence de ceux qui conçoivent, financent, manient de l’intelligence artificielle. Qu’ont-ils de commun ? Comment réfléchissent-ils ? Que révèlent-ils du monde à venir ?

Il est souvent question de l’impact de l’intelligence artificielle sur nous, sur nos modes de vie, sur nos métiers, sur notre rapport au monde. Le Digital Society Forum explore ainsi régulièrement les enjeux éthiques et sociaux de l’IA : comment l’IA automatise et bouleverse le monde du travail et le système de protection sociale , comment l’IA révolutionne la recherche médicale , comment l’IA produit un nouveau lumpen prolétariat , comment l’IA maintient ou exacerbe les discriminations , etc.

Comment, en effet, ne pas s’interroger, parfois avec inquiétude, sur la façon dont elle nous met individuellement et collectivement en équation à l’aide d’algorithmes auto-apprenants dont nul ne comprend la logique ? Pour autant, comment ne pas être fascinés par cette possibilité d’une intelligence autre avec qui nous pourrions dialoguer, avec qui nous nous sentirions plus forts et moins seuls face aux enjeux immenses qui nous (sur)plombent ? La soif intarissable de connaissance qui caractérise les humains trouve dans le développement de l’intelligence artificielle une nouvelle raison d’espérer comprendre ce qui ne cesse de nous échapper, y compris, et peut-être surtout, nous-mêmes.

Début 2019, Philip Wang, un ingénieur travaillant chez Uber, a fait le buzz avec un site : ThisPersonDoesNotExist.com , littéralement « cette personne n’existe pas ». Le site affiche, en grand, le portrait d’une personne. Rien d’autre. Aucune légende, aucun titre, aucun menu de navigation. Juste un visage en plein écran. Le rafraichissement de la page en présente un autre, celui d’un homme, d’une femme ou d’un enfant, nous regardant ou regardant ailleurs. On se met alors à rafraîchir la page frénétiquement. Les visages se succèdent, aussi banals les uns que les autres. On croirait naviguer sur le trombinoscope d’une entreprise lambda ou sur un site qui auraient agrégé massivement des photos d’identité. Puis, le nom du site fait son chemin dans les méandres de notre conscience, d’autant qu’un petit message apparait régulièrement en bas à droite de l’écran. Il faut alors se résoudre à accepter une réalité dérangeante ou enthousiasmante, selon le point de vue : ces visages ont été générés automatiquement par des réseaux adverses génératifs, des GAN (Generative adversial networks). En termes moins techniques, ces visages ont été produits par une intelligence artificielle. Aucun humain n’a ce visage, mais tous ces visages semblent avoir une existence. Comment résister à la tentation de voir dans tous ces visages, celui de l’intelligence artificielle elle-même, une intelligence qui nous ressemblerait à nous y méprendre ?


Le test de Voight-Kampff dans Blade Runner (1982) de Ridley Scott. Un dispositif inspiré du test de Turing pour pour déterminer si un individu est un réplicant ou un être humain.

Cet anthropomorphisme technologique nous ramène au fameux jeu d’imitation d’Alan Turing qui consiste à tester la capacité d’une machine à se faire passer pour un humain. On retrouve une allusion à ce test dans le film « Blade Runner » de Ridley Scott, l’adaptation du roman de Philip K. Dick « Les androïdes rêvent-ils de moutons électriques ? ». Roman qui a manifestement inspiré le sociologue Dominique Cardon pour son essai « A quoi rêvent les algorithmes ? » Aucun programme n’a pour le moment réussi le test. Même Google Duplex , qui imite comme jamais la conversation humaine, ne serait en mesure de le réussir. Et le succès du chatbot Eugene Goostman reste contesté. Malgré tout, le fantasme de se représenter l’IA de façon sensible, de lui donner un visage, une voix, un corps, reste bien vivace. Tentation vertigineuse de l’alter ego, du « compagnon intellectuel » comme l’écrit l’artiste Rocio Berenguer à propos de sa création IAGothchi . Elle a mis en scène au festival Mirages à Lyon, en 2019, une IA philosophe et empathique dont on tient dans notre main le cœur battant, fait de silicone, pendant qu’on lui parle. IAGotchi apprend des humains en les interrogeant sur des concepts aussi essentiels qu’insaisissables comme l’amour, la mort, la colère, le désir, etc.

Finalement, lorsque nous scrutons ces visages artificiels, lorsque nous cherchons à dialoguer avec une IA conversationnelle, lorsque nous imaginons ce à quoi peut bien rêver une intelligence artificielle, à quoi faisons-nous face ? Que sont ces visages ? Une variation des millions de visages que nous postons sur les réseaux sociaux analysés par des réseaux de neurones. Qu’est-ce qu’un agent conversationnel ? Le résultat d’un traitement statistique massif de nos discussions et le talent d’une poignée de dialoguistes. Que sont les rêves des algorithmes ? Ceux qui nous habitent ou plutôt qui habitent « ces humains derrière l’IA »…

Ainsi, plutôt que de traiter de l’effet des technologies sur les individus et les sociétés, l’idée de ce nouveau cycle autour de l’IA cherche à cerner l’influence que nous - humains - avons sur l’IA, comme un rebond à cette invitation de Jacques-François Marchandise, directeur de la FING, en ouverture de Numérique en communs , à Marseille, en octobre 2019 : « Combien de temps va-t-on encore parler de l’impact du numérique sur nous et à quel moment va-t-on réussir à parler de notre impact, de l’impact de la société sur le numérique ? ». Se faisant, il nous invite à reprendre prise sur le monde et sur l’évolution des technologies.

Il s’agit donc de s’intéresser aux humains derrière la machine, moins sous l’angle des travailleurs du clic – sujet majeur plusieurs fois exploré sur le Digital Society Forum, notamment avec les sociologues Antonio Casilli et Paula Tubaro ou encore avec l’artiste Laurent Huret exposant la réalité des modérateurs de contenus violents – mais plutôt sous l’angle de ceux qui les imaginent, les conçoivent, les financent, les utilisent. A quoi rêvent, finalement, ceux qui rêvent des algorithmes ?

To be continued…


A lire dans ce cycle :


L'ethnographe et l'algorithme

. Entretien avec l'ethnographe Angèle Christin.

Des concepteurs influents et influencés

. Entretien avec le sociologue Jean-Sébastien Vayre.



Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Marie  Marie Anne Gaelle
Marie Marie Anne Gaelle 04/07/2020 15:12:42

c'est un monde inconnu !


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF