Digital Society Forum Digital Society Forum
Et si... ? 24/03/2016

Et si l’homme-machine terroriste était plus inhumain que la machine AlphaGo ?

Le peintre canadien Bennett Slater utilise une technique picturale des plus classiques, à l’instar de ce double tableau réalisé en huile sur bois, The Professor & The Overweight Glob of Grease . En revanche les sujets d’inspiration de Slater, de Batman à Star Wars, sont de l’ordre de la culture pop. Mais que veut-il donc nous raconter en glissant la perspective d’un squelette humain vieux comme Hérode dans la carcasse machinique de C-3PO et R2-D2 ?
Ce mardi 22 mars 2016 au matin, j’étais parti pour écrire un billet, se voulant enlevé et paradoxal, sur la si humaine inhumanité du programme d’Intelligence artificielle AlphaGo, vainqueur du champion du monde de Go le 16 mars dernier. Puis un ami m’a parlé des attentats de Bruxelles. Littéralement glacé par la nouvelle, j’ai allumé la radio. J’ai entendu un journaliste parler de ce chauffeur de taxi ayant pris dans son véhicule trois hommes pour l’aéroport de Zaventem, deux d’entre eux portant un gant noir… où se cachait peut-être un détonateur. J’ai repensé à AlphaGo, ce logiciel dont on applaudit une victoire qualifiée de presque humaine, alors que lui n’a ni mains ni tête. Et je me suis interrogé sur la si inhumaine humanité des kamikazes au gant noir.

Qu’est-ce donc que l’humain ? Quelle qualité spécifique fait de nous des êtres humains plutôt que des machines ? Et à l’inverse, comment une pure mécanique pourrait-elle se révéler bien plus humaine qu’on ne l’imaginerait a priori ?

Selon l’écrivain de science-fiction Philip K. Dick – dont je suis il est vrai quelque peu obsédé – l’homme-machine est cet être humain qui agit comme une machine. Il répond aveuglement aux oukases de ses grands chefs, aux impératifs de la fonction ou de la cause pour laquelle il se donne intégralement. Il se croit humain. Il a d’ailleurs tout de la physiologie requise. Mais au regard de l’autre, être vivant qui constate avec terreur son devenir-machine, c’est une autre affaire. Sam Barrows, grand patron du roman Le Bal des Schizos (1972), semble ainsi un parfait homo sapiens. Mais en face à face, il donne le sentiment « d’un homme auquel on aurait retiré le cerveau pour y placer ensuite un servo-moteur ou des circuits à rétro-action de solénoïdes à relais. Bien entendu l’ensemble aurait été télécommandé, ou alors manipulé par “quelque chose”, là-haut dans le crâne, qui tripatouillerait les commandes avec de petits gestes compliqués et saccadés. » Obéissant à des ordres venant d’on ne sait où, l’homme n’est plus qu’un logiciel.

Retour à Bruxelles le 22 mars 2016. Un journaliste français, à quelques pas de la station Maalbeek lorsqu’une bombe y a fait exploser une rame de métro, relaye les propos terrifiés d’un témoin : « Une femme pense avoir vu le kamikaze : un jeune d’environ 25 ans, arabe, l’air triste, qui l’a fixée longuement dans les yeux, d’une façon inhabituelle. » Regard de métal d’un homme décervelé, transmuté en pure machine ? Ou dernier éclair d’humanité d’un terroriste programmé, prêt à sacrifier sa carcasse d’être humain pour sa cause et son œuvre de destruction ?

Dans une conférence de 1972, titrée Androïde contre Humain, Philip K. Dick explique : « Il s’agit d’humains réduits à une pure utilité – de femmes et d’hommes transformés en machines et servant un objectif qui, aussi “bon” soit-il en principe, exige l’emploi, pour son accomplissement de ce que je considère comme le plus grand mal imaginable : l’imposition sur ce qui était un homme libre, qui riait et pleurait et faisait des erreurs sottement ou à loisir, d’une restriction qui le contraint, malgré ce qu’il imagine où ce qu’il pense, à atteindre un but situé en dehors de sa propre destinée – aussi minuscule soit-elle. C’est comme si l’Histoire l’avait transformé en instrument pour servir son but à elle. Et l’Histoire, ou plutôt les hommes formés et compétents dans l’emploi des techniques de manipulation, et équipés de certains appareils, ont choisis pour eux-mêmes des desseins idéologiques tels que leur mise en œuvre leur paraît être une méthode, sinon nécessaire, du moins souhaitable, pour atteindre le but ultime qu’ils se sont fixés. »

A ma droite donc, le kamikaze de Bruxelles, homme devenu machine. A ma gauche, AlphaGo, dont le système, selon l’un de ses programmeurs de DeepMind, filiale de Google, « est beaucoup plus proche de l’intelligence humaine » que celui du programme Deep Blue lorsqu’il a battu le champion du monde d’échec Kasparov en 1997. Car AlphaGo s’inspire de notre intelligence : « Il a des réseaux de neurones profonds qui ont été entraînés à se comporter comme ceux des humains, voire à jouer mieux que les humains ». D’où ce tweet d’un joueur de Go, le 16 mars à 19h32 : « Coup 37 partie 2 : aucun humain ne l'aurait joué. Coup 78 partie 4 : aucune machine ne pouvait le prévoir. »

En 1972, dans cette conférence où il s’inquiétait des « comportements pseudo-humains dont témoignent ceux qui furent jadis des personnes pleinement en vie », Philip K. Dick disait déjà, anticipant la pseudo intuition d’AlphaGo, « que les machines deviennent de plus en plus humaines », en « cela qu’on peut établir des comparaisons pertinentes entre leur comportement et le comportement humain. »

Imprévisible, AlphaGo apprend par lui-même en permanence. A sa façon, il joue au go, alors que Deep Blue ne jouait pas « vraiment » aux échecs, ne faisant que calculer. Faut-il pour autant reconnaître une subjectivité à AlphaGo ? La subjectivité se manifeste-t-elle quand on apprend à apprendre un jeu par soi-même ou quand on sait qu’on joue à un jeu, même si l’on en a appris les règles d’autrui ? Mais qui comprend « vraiment » ce que sait ou non AlphaGo ? Personne sans doute. Sauf que la machine ne « sait » que jouer au go. Elle ne rit pas à la mutation de quelques frites en doigts d’honneur devant le drapeau belge. Elle ne retient pas ses larmes à la lecture des listes de disparus, dont les noms sont postés avec leurs photos sur Twitter ou Facebook. Philip K. Dick dirait : il lui manque l’empathie. AlphaGo, aussi humain semble-t-il dans son inhumanité, ne pourrait décider soudainement d’aller contre sa programmation, et crier : « Vous m’emmerdez tous avec vos exploits de pacotille ! J’arrête de jouer au go et je prends le train pour Bruxelles afin d’offrir mes neurones aux Bruxellois assassinés dans leur âme par des hommes-machines ! ».


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

Les sources de cet article


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF