Digital Society Forum Digital Society Forum
Et si... ? 27/09/2018

Et si la Silicon Valley souffrait d’une intoxication à la technologie ?

Le fabuleux destin d’Amélie Poulain (2001) de Jean-Pierre Jeunet. Amélie Poulain (Audrey Tautou) s'est petit à petit coupée du monde pour se retirer dans son univers intérieur, plein de fantaisie et de mystère. Un jour, elle découvre un trésor caché dans le mur de sa salle de bain et parvient à le restituer à son propriétaire. Devant, l’émotion de ce dernier, elle décide de consacrer sa vie à faire le bonheur des autres, contre leur gré s’il le faut.
À la fin de l’été, en plein désert du Nevada, une ville émerge de la poussière, festoie en toute démesure et produit des constructions insensées, dont la statue géante d’un homme en bois qui finit brûlée dans un grand feu de joie. Puis la ville disparaît sans laisser de trace jusqu’à l’année d’après, comme chaque fois depuis plus de trente ans. En 2018, le thème du festival Burning man était I, Robot, visiblement en hommage à l’écrivain de science-fiction Isaac Asimov et à ses fameuses lois de la robotique : 1) un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ; 2) un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3) un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi. On aurait pu imaginer que ce soit un robot qui brûle à la fin, et non un humain. Qu’on fasse un « burning bot » plutôt qu’un « burning man »… Mais un robot a peut-être plus de valeur symbolique qu’un humain, notamment pour les techies de la Silicon Valley, fervents soutiens et habitués du festival. En effet, les big boss et les cadres des GAFA (Google, Apple, Facebook, Amazon) et autres NATU (Netflix, Airbnb, Tesla, Uber) sont nombreux à venir se dévergonder à Burning Man. On a pu y croiser Elon Musk, Sergei Brin et Larry Page, Jeff Bezos, Mark Zuckerberg, etc.

Le fait qu’une grande partie des entreprises technologiques soient concentrées dans un périmètre de la taille de l’île de Chypre (c’est une estimation, les frontières de la Silicon Valley étant très fluctuantes) ne crée-t-il pas un miroir déformant qui ferait de la technologie l’essence même du futur, voire de la vie ? En d’autres termes, hors de la technologie, point de salut ?

L’affaire Theranos au cœur de la Silicon Valley illustre l’aveuglement qu’une telle croyance dans la technologie peut provoquer. Il y a plus de dix ans, Elizabeth Holmes, avec sa société Theranos, a réussi à lever 1,4 milliard de dollars pour financer ce qu’elle appelait une révolution de l’analyse sanguine. Elle promettait des prises de sang sans aiguille et des analyses ultra rapides avec une seule goutte de sang. Lancée en 2015, une enquête au long cours dans le Wall Street Journal a révélé la supercherie : Elizabeth Holmes serait, en fait, une arnaqueuse hors pair, ou peut-être une menteuse pathologique. En effet, ses super machines n’ont jamais fonctionné et n’avaient scientifiquement aucune chance de donner les résultats escomptés. Elle risque aujourd’hui 20 ans de prison et 2,75 millions d’amende pour fraude et résultats d’analyses sanguines sciemment erronés. Ce scandale ne devrait-il pas nous faire réfléchir sur toutes ces belles promesses d’innovations technologiques qui envahissent nos fils Twitter et rebondissent sans filtre dans les médias ?

Prenons Elon Musk et son neurolace . Le charismatique et politiquement incorrect patron de Space X et de Tesla Motors pense-t-il sérieusement à nous implanter des électrodes dans le cerveau pour connecter nos neurones à une intelligence artificielle afin d’éviter que l’intelligence artificielle ne nous réduise au statut d’animal domestique ? Le lancement d’un Starman dans l’espace l’aurait-il fait basculer dans de la science-fiction de bas étage ? L’ambition de contrer les dérives de l’intelligence artificielle en inventant justement un système pour nous connecter à l’intelligence artificielle n’est-elle pas totalement illogique ?

Ce qui apparait en filigrane, c’est une intoxication technologique. Tout miser sur la technologie signifie en creux minimiser le facteur humain, voire l’enlever de l’équation. Cela crée des impensés, des angles morts, cela peut conduire à croire réellement aux seringues sans aiguilles de Theranos.

La voiture autonome est assez symptomatique de cette hallucination collective. L’argument de vente est majoritairement sécuritaire et s’articule ainsi : « Si les humains ne conduisent plus, on devrait pouvoir réduire le nombre d’accidents car 90% des accidents sont liés à une erreur humaine, dont 40% mettent en cause l’alcool, la drogue, la fatigue et la distraction », rapporte l’étude de Kara Kockelman , docteure en ingénierie du transport à l’Université du Texas à Austin. En supposant que les constructeurs de véhicules autonomes se soient assurés que leur intelligence embarquée conduise au moins aussi bien ou pas plus mal qu’un humain, le raisonnement tient. Cependant, depuis que des véhicules autonomes commencent à circuler on découvre que l’intelligence artificielle peut aussi provoquer de nouveaux types d’accident, celui par exemple de confondre un piéton avec un sac en plastique qui vole. La vidéo de l’accident de ce taxi Uber , qui a fait le tour du monde, met en évidence deux problèmes : la difficulté de l’intelligence embarquée à identifier un positif d’un faux positif et le fait que l’automatisation entraîne une baisse de l’attention de la personne dans le véhicule, sachant qu’elle aurait pu reprendre les commandes. En se focalisant ainsi sur la suppression de l’erreur humaine et donc du facteur humain, on se prive finalement des capacités humaines.

Cette réduction de la place de l’humain conduit sans doute à un autre angle mort. Beaucoup s’inquiètent, en effet, du risque d’attaques terroristes ou d’assassinats via la prise de contrôle à distance des voitures autonomes, mais personne ne semble songer que nous serons probablement les premiers à hacker nos propres véhicules... Il y a, en effet, fort à parier que tout un marché légal et illégal du « tuning » des véhicules autonomes va accompagner le déploiement de cette technologie : des add-ons, des pluggins, des patchs, des forks, très créatifs qui permettront sûrement de rouler plus vite, de brouiller les radars connectés, de passer en mode furtif ou anonyme, de franchir les lignes blanches, etc.

Ainsi se déploie une pensée magique, autour de la technologie. Une pensée qui vient nourrir la théorie du grand remplacement des humains par l’IA , car elle postule qu’on pourra régler les problèmes malgré et sans nous, en faisant abstraction de la nature humaine, nous imaginant de facto coopératifs, et en se privant de nos propres capacités, ce qui amènera les innovateurs à, régulièrement, réinventer la roue, parfois en moins bien.

L’expérience de Fan Hui , le premier joueur professionnel de Go à avoir perdu contre AlphaGo, l’IA de Google, nous montre à quel point on se trompe dès qu’on projette ce que l’IA pourrait changer dans nos vies. En fait, bien malin celui qui le saura avant de l’avoir expérimentée. Dans le cas du jeu de Go, l’IA qui était au départ perçue comme un adversaire et s’est avérée être un coach hors pair, un moyen de s’émanciper de l’académisme, en incitant les joueurs à oser des coups qu’aucun grand maître du Go n’avait encore tentés.

Ainsi, penser la technologie « hors sol », même avec les meilleures intentions qui soient, risque fort de produire un monde de moins en moins au contact de la réalité humaine. Ce serait un peu comme vivre Le fabuleux destin d’Amélie Poulain, une vie factice teintée de sépia, sans aspérité ou tout se passerait pour le mieux, mais dont une bonne moitié de la population serait absente...


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

Les sources de cet article


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF