Digital Society Forum Digital Society Forum
Et si... ? 23/05/2018

Et si les GAFAM disaient toute la vérité lors de leurs grandes messes technologiques ?

Ce que le peintre français Hippolyte Paul Vayson (1841-1911) nous enseigne avec cette huile sur toile Berger et ses moutons, c’est sans doute que le vrai berger donne sa vie pour son troupeau. Cette parole est relayée à maintes reprises dans les Écritures. Dans l’Évangile selon Matthieu par exemple, (chapitre 18, versets 12 à 14), où l’on peut lire la chose suivante : « Si un homme a cent brebis, et que l'une d'elles s'égare, ne laisse-t-il pas les quatre-vingt-dix-neuf autres sur les montagnes, pour aller chercher celle qui s'est égarée ? » Une fois le troupeau rassemblé, c’est bien sûr lors de l’Eucharistie que les brebis se réuniront autour du vrai berger, celui qui les conduira à la vie éternelle en les appelant chacune par leur nom. Ce que l’histoire ne dit pas, en revanche, c’est si cette très longue liste de noms respecte les réglementations en vigueur en ce qui concerne la vie privée.
L’écosystème des entrepreneurs de la Silicon Valley ne revêt-il pas un caractère religieux ? Chaque année, les grands de ce monde de silicium organisent une grande messe au cours de laquelle ils exposent les nouveaux totems connectés qui viendront changer nos vies. Illuminé, un parterre de fidèles s’y exclame à l’unisson devant les « pitch » (prières) et autres gourous qui s’autoproclament parfois « évangélistes digitaux ». Mais si la bonne parole se diffuse, elle doit désormais concilier avec une foule d’hérétiques. Beaucoup s’interrogent en effet sur les conséquences de ces innovations dans le champ social, sur la vie privée ou encore l’autonomie des utilisateurs. Ces inquiétudes sont-elles écoutées ? Transcrites dans les sermons des GAFAM ? Et si ceux-ci jouaient franc-jeu ? Petite réflexion à l’occasion du plus grand salon des nouvelles technologies d’Europe, Viva Technology , qui accueille son lot de brebis du 24 au 26 mai.

Les 8, 9, 10 et 11 mai derniers furent jours de liesse au Shoreline Amphitheatre de Mountain View. Le gratin de la high-tech s’y réunissait pour assister au traditionnel banquet annuel Google I/O organisé par la société éponyme. Ce coup-ci, le géant californien a marqué sa grande messe du sceau du bien-être. La preuve : la nouvelle mouture de son système d’exploitation Android P (dont les experts ne savent toujours pas dire s’il s’agira d’une version 8.2, 8.5 ou 9.0, suspense) sera mis au service de la déconnexion. Et pour cause, Google a bien compris la grogne des utilisateurs qui, alimentés des discours alarmistes d’anciens salariés de la firme ayant retourné leurs vestes, savent à présent que le temps gagné grâce à la technologie est souvent de nouveau perdu à cause d’elle. Mais dans son incroyable candeur, Google a réagi. Il est désormais possible de fixer une limite d’utilisation à certaines applications ou encore de passer l’écran en noir et blanc lors d’un usage du smartphone au lit. Cerise sur le gâteau : le téléphone passera automatiquement en mode « ne pas déranger » quand on le retournera face contre table.

Le second clou du spectacle, (l’effet waouh comme on dit dans le milieu) fut bien sûr l’entrée en scène de Google Duplex, l’assistant intelligent qui appelle à votre place le coiffeur (qui n’y voit que du feu !). Sourire aux lèvres, le PDG de Google, Sundar Pichai, nous laisse entendre que le robot est tout à fait capable de tenir une conversation complexe dans un environnement bruyant (tant qu’il s’agit de prendre un rendez-vous). Les objectifs : libérer (encore) plus de temps, améliorer la productivité des utilisateurs et accessoirement, produire un maximum de buzz autour de ce petit fleuron tout à fait impressionnant issu des nouvelles techniques d’intelligence artificielle.

Mais revenons-en à nos moutons. Peut-on décemment laisser prétendre que les thuriféraires de l’innovation ne « disent pas la vérité » sans leur faire-là un faux procès ? Est-il correct d’admettre que leur passion dantesque pour le changement, les gris-gris connectés et autres amulettes sacrées dopées au deep learning relève de la pure volonté d’embabouiner leur prochain ? Peu probable, et quand bien même, cette accusation risquerait de disqualifier toute critique construite à leur endroit. Comme d’habitude, la vérité est toujours dans un entre-deux : si « les évangélistes digitaux » ne cachent pas sous leurs messes une secrète intention de tromper, ils n’en sélectionnent pas moins rigoureusement les arguments qui éludent les questions véritablement gênantes.

Commençons par le revirement éthique de la Silicon Valley : il débouche donc sur un écran en noir et blanc à l’heure du coucher. Un petit aménagement personnel, fidèle à la tradition crypto-libertaire qui sert de berceau à de nombreux entrepreneurs locaux. Expliquons-nous : une fois encore, un enjeu collectif et d’envergure, la captation massive de l’attention des utilisateurs, intrinsèquement lié aux modèles d’affaires des grandes sociétés du numérique, est réduit à une question de responsabilité individuelle : celle du possesseur de smartphone. La marionnette de Patrick Poivre d’Arvor nous dirait probablement que si les écrans, quels qu’ils soient, deviennent trop envahissants, nous pouvons toujours les éteindre et « reprendre une activité normale ». Douteux. Assez en tout cas pour les journalistes et chercheurs Ben Tarnoff et Moira Weigel qui dans leur remarquable article « Why Silicon Valley can’t fix itself » (« Pourquoi la Silicon Valley ne peut pas s’auto-discipliner ») rappellent que la cause première des problèmes suscités par ces nouvelles technologies réside dans leur caractère centralisé et hégémonique. Les chercheurs s’en prennent au passage à ce renouveau éthique qui compare au tabagisme les addictions au numérique, renvoyant les malades à leur hygiène personnelle.

Mais qu’aurait dû dire Sundar Pichai pour révéler ici une quelconque vérité cachée ? A quel auteur emprunter les bonnes formules ? Fallait-il suivre par exemple l’archéologue des médias Yves Citton , lorsque celui-ci rappelle que quand un professeur reproche à son élève d’être distrait, « c’est une façon d’imposer son pouvoir dès lors que celui-ci est menacé, et donc au final tenter d’imposer une redistribution de l’attention en sa faveur » ? En va-t-il de même chez Google ? La dilapidation de notre « temps de cerveau disponible » ne serait-elle que le produit d’une « distraction » désormais rendue impossible grâce à un nouveau design révolutionnaire ? Ou bien ces aménagements sont-ils l’occasion renouvelée de focaliser notre attention sur ce qui compte vraiment ? Et qu’est-ce qui compte vraiment au juste ? Entendons-nous, Sundar Pichai n’est pas seul dans ce bateau, un autre guide suprême, Mark Zuckerberg souhaite nous aider à privilégier « les relations qui ont du sens ». Du côté de Twitter, on parle d’améliorer « l’hygiène conversationnelle ». En bon professeur donc, Sundar Pichai et les autres auraient pu clamer cette vérité qui tient dans le caractère normatif de leurs technologies : « nous, chez [insérer un GAFAM] savons ce qui est important pour vous, à votre place, et allons vous permettre de vous focaliser dessus ».

Et les GAFAM ont quelques arguments à faire valoir pour accomplir cette sainte-mission. Leurs assistants virtuels Siri (Apple), Cortana (Microsoft) et Alexa (Amazon) sont en passe de devenir nos doubles digitaux. Ces petites créatures électroniques peuvent dorénavant commander un panier de course, lancer une chanson ou nous éviter d’avoir à regarder par la fenêtre pour savoir s’il fait beau. Dernièrement, Google a défrayé la chronique en montrant comment son dernier né, Google Duplex, peut réserver une table de restaurant, disions-nous. Le PDG de Microsoft, quant à lui, ne manque pas une occasion de rappeler à quel point la protection des données personnelles est importante. Mais les très talentueux Sundar Pichai et Satya Nadella ont-ils pour autant tout dit ?

Le premier aurait pu préciser à quel point sa petite merveille conversationnelle allait déplacer les compétences d’un nombre non négligeable de professionnels en centres d’appels. Aujourd’hui la prise de rendez-vous automatique, demain la vente à distance ? L’assistance en ligne ? Qu’aurait pu dire Sundar Pichai ? Aurait-il dû affirmer sa foi en la magie de la « destruction créatrice », théorie chère à l’économiste Joseph Schumpeter et qui prévoit que toute perte d’emploi liée à l’innovation générera de façon mécanique et vertueuse le transfert des travailleurs d’un secteur à un autre ? Ou fallait-il rejoindre l’entrepreneur et penseur Bruno Teboul affirmant : « Dire que l’informatique et la bureautique vont créer des emplois pour ceux à qui elle en enlève aujourd’hui est aussi stupide que de dire que passer de la traction hippomobile à la voiture a créé des emplois pour les chevaux. »

Le second, Satya Nadella – qui n’a de cesse de vanter les mérites de Microsoft en matière de confidentialité - pourrait de son côté nous en dire un peu plus sur les dessous de son intelligence artificielle Cortana. Que trouve-t-on sous le capot de ce joli joujou (et des autres, chez Amazon, Google, etc.) ? Selon l’association de défense des droits et des libertés sur internet La Quadrature du Net, les rouages de nos IA sont peu reluisants : des « dresseurs d’IA » « entraînent » ces dispositifs en vérifiant la pertinence de leurs réponses (retranscriptions, labélisations d’images). Payés à la tâche, ils accèdent à l’essentiel des requêtes des utilisateurs, y compris celles contenant des noms, numéros, adresses, etc. depuis leurs propres ordinateurs non sécurisés. Voilà qui semble bien loin des discours sur la confidentialité des données à caractère personnel. Mais la scolastique de Satya Nadella n’y fait pas référence, tout comme elle laisse sous le tapis le témoignage de Julie, dresseuse d’IA, à la Quadrature du Net : « Il y avait beaucoup d'enregistrements involontaires, où des personnes discutent entre elles (dans leur voiture, à la maison, avec leurs enfants sur le chemin de l'école...), tandis que Cortana est dans les parages (tablette, téléphone portable, ordinateur, etc.) et s'est déclenchée de manière non sollicitée et a tout enregistré. »

Bref, la vérité des GAFAM a quelque chose d’ambivalent, tout comme l’est leur conception de l’éthique, dont la définition floue rend tous les dévoiements possibles. Moralité : s’il y a une contre-vérité à opposer aux GAFAM, elle ne viendra probablement pas d’eux-mêmes. Ce qui n’empêchera pas la France de les accueillir à Viva Technology ce mercredi 23 mai, sous le label « Tech for good » où espérons, quelques hérétiques prêteront une oreille attentive à la bonne parole.


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

Les sources de cet article


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF