Digital Society Forum Digital Society Forum
Dans la presse 24/09/2018

L’IA favorise-t-elle la tyrannie ?

Circuit imprimé, photo en CC de geralt .
Certains systèmes techniques, certaines technologies favorisent-elles l’émergence de certains régimes politiques ? C’est l’hypothèse qu’avance l’historien israélien Yuval Noah Harari dans le dernier numéro du magazine américain The Atlantic , dans un article intitulé « Pourquoi la technologie favorise-t-elle la tyrannie ? » .

Yuval Noah Harari, professeur d’histoire à l’université hébraïque de Jérusalem, est connu pour ses sommes historico-philosophiques retraçant l’histoire du monde. Ses deux ouvrages Sapiens : Une Brève Histoire de l’humanité et Homo Deus : Une Brève Histoire de l’avenir ont été des best-sellers. Dans le dernier, 21 idées pour le XXIe siècle (Albin Michel), Harari affirme vouloir examiner les défis du présent, notamment les menaces qui pèsent sur la démocratie libérale. Celle-ci, estime-t-il, est fragilisée par l’émergence de régimes autoritaires et de « politiques de plus en plus tribales » — mais aussi par un paysage technologique nouveau.
« L’émergence des démocraties libérales est associée aux idéaux de liberté et d’égalité, qui semblent indiscutables et irréversibles. Mais en réalité, ils sont bien plus fragiles que nous le croyons. Le succès qu’ils ont connu au 20 siècle dépendait de conditions technologiques uniques, qui pourraient bien se révéler éphémères. » écrit-il dans The Atlantic. Or pour lui, les nouvelles technologies, en particulier l'IA, sapent à plusieurs niveaux les conditions qui ont permis l’instauration des démocraties libérales.

Menace sur le sujet autonome


La démocratie libérale et l’économie de marché, reposent sur l’idée d’un sujet libre, capable de faire des choix et d’agir de façon autonome. Pour Harari, les « technologies de l’information et les biotechnologies » sapent cette autonomie, en utilisant la collecte de données massives pour connaître intimement les choix et préférences des individus et les influencer à leur insu. (Il n'en donne pas d'exemples, mais on peut penser entre autres aux expériences de Facebook sur la manipulation des newsfeed et des émotions , au scandale Cambridge Analytica …)

Une nouvelle « classe inutile »


L’arrivée de ces nouveaux outils bouleverse le processus de production, et modifie profondément l’équilibre des forces politiques qui caractérisait la démocratie libérale. Ainsi, explique Harari, celle-ci a pris le dessus sur d’autres formes politiques notamment par la promesse d'une croissance économique qui profiterait à toute la population. Or aujourd’hui, la croissance dépend de plus en plus de technologies qui « disruptent » ou cassent l’emploi. Le pacte reposant sur la croissance se trouve donc rompu. Avec l’implantation croissante d’outils en IA, les travailleurs les moins formés seront écartés de l’emploi et les plus qualifiés obligés de se former et de s’adapter constamment pour suivre les évolutions de la machine.
Tous formeront une nouvelle « classe inutile », regroupant les moins qualifiés mais aussi ceux qui se révéleront incapables de se mettre régulièrement à jour.

La perte de pouvoir pour les moins qualifiés


Dans les démocraties libérales traditionnelles, les travailleurs, même exploités, restaient centraux dans la production. Cette place leur conférait un important pouvoir politique : ils pouvaient paralyser la production pour engager un rapport de force. En écartant les travailleurs moins qualifiés de la production, l’automatisation du travail les prive du même coup de levier politique. S’ensuit « un sentiment croissant d’obsolescence » — et une réelle perte de pouvoir politique. Car, souligne l’auteur, « il est beaucoup plus difficile de lutter contre l’inutilité que l’exploitation ».

L'IA, agent de centralisation


Harari met en garde contre l’avènement des « dictatures numériques », fondées sur le contrôle et la surveillance numérique. Mais il avance aussi un argument moins classique et plus intéressant : l’IA rend de nouveau compétitif et potentiellement désirable un système fortement centralisé.
Selon Harari, la différence entre le totalitarisme et la démocratie est « une différence entre deux systèmes d’information »
: centralisé pour le totalitarisme, décentralisé pour la démocratie libérale. Ce dernier s'est révélé plus compétitif au 20e siècle, mais l’IA change la donne. Elle offre la possibilité d'un système centralisé extrêmement performant : elle permet de collecter, concentrer et p en un seul système d’énormes quantités d’information. Elle pourrait même, estime Harari, favoriser les systèmes centralisés puisque l’apprentissage machine a besoin de grandes quantités de données pour s'améliorer, quantités qui sont obtenues par des systèmes centralisés.
C’est ainsi que l’IA pourrait favoriser de nouveau les totalitarismes : « Ce qui était le principal handicap des régimes autoritaires du 20e siècle — le désir de concentrer à un seul endroit toute l’information et le pouvoir — pourrait bien devenir leur avantage décisif au 21e siècle. »

Protéger la décentralisation des données


Face à ces sombres perspectives, Harari prône la lutte pour la décentralisation des données : « Si la perspective de vivre dans une dictature numérique ou tout autre forme dégradée de société vous inquiète, ce que vous pouvez faire de plus important est de trouver des moyens de s’assurer que des quantités trop importantes de données ne restent pas concentrées entre quelques mains, et de s’assurer que le traitement décentralisé des données reste plus efficace que le traitement centralisé. Ce ne sont pas là des tâches faciles. Mais c’est en les accomplissant que nous préserverons au mieux la démocratie. »



Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF