Digital Society Forum Digital Society Forum
Focus 10/05/2019

L'IA : une technologie prometteuse, à encadrer pour éviter le creusement des inégalités

L'intelligence artificielle est une technologie pleine de promesses, mais il faut l'encadrer si l'on veut qu'elle aide à l'avènement d'une société meilleure.

L’intelligence artificielle est identifiée mais méconnue


Un sondage commandé par l'observatoire Impact AI montre que l'intelligence artificielle est bien identifiée par les Français, mais qu'ils la connaissent mal et sont partagés sur l'impact qu'elle pourrait avoir.
Plus de trois quarts des personnes sondées (88%) déclarent avoir déjà entendu parler de l’intelligence artificielle. Mais elles sont moins de la moitié à savoir précisément ce qu’elle recouvre : ainsi, beaucoup disent d’avoir jamais utilisé d’IA dans leur travail tout en déclarant par ailleurs utiliser régulièrement les options de saisie automatique ou les assistants vocaux de leur téléphone...
Globalement, selon ce sondage, l’IA jouit d’une bonne image (trois quart des sondés). Celle-ci repose sur une conception pragmatique de ses avantages (l’IA va faciliter certaines tâches, faire gagner en temps ou en productivité), mais aussi idéologique (elle est « le progrès »). En revanche, les personnes qui ont une représentation négative de l’IA citent les conséquences sur « l’humain » : si le fantasme de la Singularité est très minoritaire, les inquiétudes concernent la destruction des emplois ou les risques portant sur la vie privée ou la sécurité.

Des progrès constants mais parfois éloignés des discours « marketing »


Les progrès en intelligence artificielle sont constants et les promesses immenses, comme dans le domaine de la médecine prédictive . Mais les discours marketing et l’enthousiasme technologique conduisent parfois à les exagérer. La réalité des accomplissements de l’IA doit ainsi parfois être relativisée. Ainsi, expliquent les chercheurs Julia Velkovska et Moustafa Zouinar , la reconnaissance vocale est une technologie prometteuse mais qui, en situation, a pour l’heure de sérieuses limites. Des études portant sur les interactions avec les agents domestiques montrent que les programmes de reconnaissance vocale butent souvent sur des constructions syntaxiques très courantes, des voix juvéniles ou avec des accents… Pour Julia Velkovska , « Pour l'instant, on ne voit pas quels capteurs pourraient équiper un système pour qu'ils puissent avoir la même saisie et la même compréhension du contexte qu'un être humain. »

Les « petites mains » derrière l’automatisation


Autre point essentiel : pour l’heure, une grande partie des tâches d’intelligence artificielle sont assistées ou même accomplies par des humains. C’est ce qu’a montré le chercheur Antonio Casilli , dans son livre En Attendant les robots. Systèmes de modération de contenus vérifiés largement par des humains (comme chez YouTube), opérateurs vérifiant les appariement proposés par des machines (comme chez Amazon), assistants virtuels intelligents reposant largement sur des humains (comme l’assistant virtuel de Facebook « M », retiré de la circulation depuis) ou voitures autonomes assistées par des opérateurs chargés d’analyser le données récoltées par le système... Dans les faits, une grande partie de l’ « intelligence » des systèmes est en fait due aux humains. Ce sont eux qui paramètrent , entraînent et encore très largement supervisent les IA, malgré les progrès des méthodes d’apprentissage non supervisés. Les progrès fulgurants des IA ces dernières années sont surtout dus à l’explosion des quantités de données d’entraînement : or celles-ci doivent être triées, annotées, préparées par des humains. Et enfin, ces programmes doivent être évalués et corrigés pour pouvoir s’améliorer. Beaucoup de ces « petites mains » de l’IA travaillent dans des pays du Sud, sont des travailleurs engagés à la tâche (« les tâcherons » écrit Casilli). C’est sur leur exploitation ou leur précarité que repose aujourd’hui l’essor de l’économie numérique. Ainsi, l’artiste Lauren Huret a montré que beaucoup de modérateurs et modératrices de contenu philippins, constamment exposés à des images atroces pour préserver la sensibilité des utilisateurs du Nord, se vivent comme des « martyrs » des réseaux sociaux. La question que pose l’intelligence artificielle et l’automatisation, ce n’est donc pas celle de la menace sur l’emploi – mais celle de la transformation profonde du travail pour répondre aux besoins de la machine.

La transformation du travail


Les discours sur l’impact de l’IA sont souvent présentés de façon binaire, comme un bien sans partage ou un danger dramatique. Pour sortir de ces fausses alternatives, rien ne vaut les études de terrain. Ainsi, deux chercheuses américaines ont étudié l’impact concret de l’introduction de technologies d’IA dans deux secteurs : les supermarchés et l’agriculture à l’échelle locale. Dans les deux cas, elles montrent que l’IA n’a pas supprimé les travailleurs, mais reconfiguré le travail, changeant sa nature. Les solutions d’IA ne viennent pas s’ajouter au travail existant, souvent elles le transforment. Par exemple, les fermiers doivent adapter leurs exploitations et leurs champs aux capteurs et à l’infrastructure nécessaire pour que les données soient collectées. Ceci change parfois en profondeur leur travail : «J’aimerais être plus souvent dans les champs, mais c’est plus utile pour moi d’être devant mon ordinateur. » Dans les supermarchés, les caisses automatiques n’ont pas remplacé les caissiers, mais elles leur ont donné de nouvelles tâches : «La plupart du temps, ces technologies ont intensifié le travail et créé de nouveaux problèmes, comme celui de jongler entre la pression à la performance imposée par le management et les demandes des clients. » Ce travail invisible est souvent invisible et sous-évalué. Pour que l’intégration de l’IA ne renforce pas les inégalités, les chercheuses préconisent donc de ne pas limiter le discours sur l’impact de l’IA au travail sur les potentiels de la technologie ou les scénarios idéaux d’utilisation, mais aussi de prendre en compte tout ce travail d’intégration des outils et les gens qui sont chargés de le faire.

Lutter contre les biais pour que l’IA ne reproduise pas les inégalités


Un autre champ de recherche et de débat essentiel dans l’IA actuelle concerne les « biais » : la façon dont un système automatisé peut intégrer et reproduire des discriminations existantes, voire les intensifier. Ces biais sont de plus en plus documentés et ils surviennent à tous les niveaux. Dans le cas des biais sexistes de l’IA , les biais existent au moment de la formation — les femmes sont très minoritaires dans le champ de l’IA, au moment de la collecte des données (il existe un « gender data gap » : les femmes sont souvent moins représentées dans les données), au moment de l’écriture du code (biais en faveur des développeurs hommes), de la constitution des bases de données image sur lesquelles s’entraînent les IA et de l’étiquetage des images… Dans une société qui a des biais sexistes, les discriminations existent aussi dans les données sur lesquelles sont conçus et entraînés les algorithme, et elles peuvent se reproduire si on n’y prend pas garde. Ainsi, plusieurs études aux Etats-Unis démontrent des biais racistes des logiciels de reconnaissance faciale , par exemple, qui sont bien moins performants pour identifier les visages noirs. Certains l’expliquent par des raisons techniques, d’autres soulignent que les bases de données d’entraînement des IA sont majoritairement composées de visages aux peaux claires.
Ces biais ne sont pas des fatalités : des initiatives existent pour créer des bases de données plus diversifiées et inclusives. Bien évidemment, l’IA n’est une technologie intrinsèquement biaisée : elle peut aussi être utilisée pour mettre en avant des biais. Mais l’IA pourra, selon les contextes, servir à créer un monde plus juste ou un monde où les inégalités seront « naturalisées » car de plus en plus reproduites de façon automatique, comme le montre la chercheuse Virginia Eubanks .

Le contre-exemple chinois


La Chine présente un modèle original de développement de l’IA , qui illustre combien cette technologie peut prendre des visages différents selon les écosystèmes politiques et économiques dans lesquels elle se développe. Xi Jinping a fait du développement de l’IA un enjeu économique, politique et stratégique majeur, tant au plan domestique qu’international. La Chine s’est fixée comme objectif d’être leader du marché mondial de l’IA en 2030 et elle a de sérieux atouts : une population très connectée et donc un énorme stock de données qui sont « l’or noir » de l’IA, d’énormes réserves de main-d’œuvre pour les traiter, des réglementations beaucoup plus souples en matière de vie privée et une politique d’investissement gouvernementaux intenses.
La Chine veut développer l’IA dans de nombreux domaines, de l’agriculture à la médecine en passant par la construction ou l’éducation, mais également dans le domaine des technologies d’IA de surveillance et d’usages militaires. Aujourd’hui, des solutions d’IA de surveillance et d’identification des citoyens sont développés dans de nombreux domaines : villes, centres commerciaux, immeubles, écoles… Elles participent à un projet politique de contrôle social et de développement du système du « crédit social », un système de notation des citoyens selon divers critères. Dans la ville de Kashgar, majoritairement peuplée d’Ouïgours que l’Etat chinois considère comme une menace, la reconnaissance faciale et la surveillance sont partout. Les applications de l’IA chinoise constituent un avertissement : la dystopie technologique est possible et elle est déjà bien avancée dans un des pays les plus puissants du monde.

En bref, l’IA est une technologie prometteuse, dont nous voyons à peine les premières applications. Mais il est essentiel de l’encadrer pour qu’elle serve à une société meilleure. Loi, débat public et examen du code : ces trois éléments seront essentiels pour s'assurer que la société de l’IA soit meilleure et non plus inégalitaire.


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF