Digital Society Forum Digital Society Forum
Et si... ? 10/06/2018

Et si les repentis de la Silicon Valley en étaient les meilleurs serviteurs ?

Le mythe du mouton noir tire son origine du contraste entre la proportion de moutons blancs (habituels et majoritaires) et de moutons noirs (généralement minoritaires) dans les troupeaux d'ovins. L’expression désigne habituellement les personnes dont l’origine ethnique, les opinions ou l’appartenance religieuse tranche avec le conformisme ambiant. Ici un mouton de l'île d'Ouessant dans le Finistère, une race qui faillit s’éteindre au début du vingtième siècle mais qui n’est aujourd’hui plus menacée. Rustique, le mouton d’Ouessant est idéal pour entretenir de grands espaces verts
Depuis quelques années maintenant, les repentis de la Silicon Valley font des vagues dans le petit monde du numérique. Une des figures du mouvement, Tristan Harris, est connu pour son manifeste « Comment la technologie pirate nos esprit », publié en mai 2016. Dans la foulée de cet écrit, ce designer et ancien employé de Google fonde son propre label, Time well spent, qui donne vite naissance au Center for Humane Technology , mouvement qui se fait le relais de deux alertes majeures. La première concerne les utilisateurs : ils doivent être conscients des manipulations dont ils sont victimes. La seconde est destinée aux designers et autres concepteurs d’outils numériques : ceux-là devraient réaliser le pouvoir qu’ils ont entre leurs mains et l’utiliser avec plus de discernement. Certes, mais est-ce bien suffisant ?

L’édifice conceptuel du programme de ce repenti de chez Google tient en un mot : l’éthique. Son corollaire : « remettre de l’humain dans la technologie ». Voilà la recette du changement : l’homme, grand oublié du numérique, serait la réponse. S’il faut concéder aux transfuges de la Silicon Valley le courage d’avoir retourné leur veste, leurs solutions parfois simplistes n’en tombent pas moins sous le feu de légitimes critiques. Les chercheurs et journalistes Ben Tarnoff (@bentarnoff) et Moira Weigel (@moiragweigel) par exemple, expliquent avec leur article « Why Silicon Valley can’t fix itself » que le diagnostic des repentis risque de donner de nouvelles armes à leurs ennemis désignés.

Il aura fallu quelques temps pour voir l’éléphant dans la pièce : le grand succès de la Silicon Valley tiendrait dans son insatiable appétit pour notre « temps de cerveau disponible ». L'attention, ultime ressource restante à marchander, ferait l’objet de toute une économie basée sur la manipulation de nos biais et de nos faiblesses cognitives. Notre cerveau, troué façon gruyère, serait progressivement devenu la cible ultime d'une nouvelle science : la « captologie », qui ne fait pas mystère de ses objectifs : nous influencer grâce à des dispositifs numériques transformés en « armes de persuasion massives ». Dans la vraie vie : le mur de Facebook qu’on n’en finit pas de « scroller » ou encore ce prochain épisode de Netflix qui se lance tout seul.

Mais heureusement, nous aurions trouvé le coupable de ces petites agressions quotidiennes : le design. Autre bonne nouvelle, le vaccin aurait lui aussi été découvert à la même occasion : encore le design. Il n’en fallait pas plus pour inventer le cocktail réparateur : du design oui, mais avec plus d’humain à l’intérieur. Vent debout contre cette douteuse équation, Ben Tarnoff et Moira Weigel nous alertent : limiter la critique à une question de design est loin d’être suffisant, ce serait même dangereux. Première raison à cela : les géants de la Silicon Valley ont bien intégré la question. Twitter revendique désormais « l’hygiène conversationnelle » (“conversational health”), et Facebook compte privilégier « les relations qui ont du sens » (“meaningful” interactions). Ont-ils pour autant modifié leurs modèles d’affaires basés sur la vente de publicité ? Le peuvent-ils seulement à ce stade du débat ? Rien de moins sûr. En définitive, le véritable changement aura consisté à rendre notre attention plus rentable, quitte à redéfinir à la place de l’utilisateur ce qui est important pour lui (la famille plutôt que les relations distantes, dans le cas de Facebook). C’est le même mécanisme qui a conduit à mettre des ouvriers devant des machines plutôt que d’allonger la journée de travail au risque de les épuiser, rappellent les auteurs. Quant à la tarte à la crème du moment, l’éthique, il serait bon de se rappeler la formule de Peter W. Singer : « Your ethics are not my ethics » (ton éthique n’est pas la mienne), par laquelle il illustre le fait que les perceptions de ce qui est éthique et de ce qui ne l’est pas diffère grandement selon les cultures.

D’autre part, il demeure un flottement gênant autour du terme « humain ». Y aurait-il des technologies inhumaines ? Après tout, le début des années 1980 aura vu naître tout un mouvement consistant à fabriquer des technologies « pour l’humain », Apple au premier plan. Or pour Ben Tarnoff et Moira Weigel, c’est cet humanisme-là qui a conduit à l’impasse que les repentis fustigent à présent. À cela ils ajoutent que penser l’humain et la technologie séparément serait incorrect : les recherches en ethnologies (voir par exemple, Le geste et la parole de Leroi Gourhan, mais l’article cite Mary W. Marzke) nous apprennent au contraire que l’homme est solidaire de ses techniques : il se modifie à mesure qu’il les crée. Penser l’humain comme une entité figée et pure relèverait de l’essentialisme. Expliquons- nous : si une seule personne peut définir l’homme, lui dire comment il doit être et ce qu’il doit faire, alors c’est une nouvelle forme de paternalisme qui est à l’œuvre. Ben Tarnoff et Moira Weigel s’interrogent par exemple sur les discours moralisateurs de certains repentis qui comparent Snapchat au tabagisme, renvoyant les utilisateurs à une addiction qu’ils devraient traiter eux-mêmes. En somme, les auteurs reprochent au Center for Humane Technology d’individualiser les problèmes collectifs, c’est-à-dire de leur ôter leur dimension profondément politique. En gelant – consciemment ou non - toute réflexion portant sur la répartition du pouvoir (quelques milliardaires sont à la tête de sociétés ultra-puissantes) ou encore sur les modèles de rémunération des plates-formes basés sur la publicité ciblée, la communauté Time well spent prendrait le risque d’armer ses adversaires contre toute critique, les rendant encore plus forts.

Pour autant, il ne faut pas baisser les bras trop vite. Si du chemin reste à faire, les écueils du design éthique commencent à être connus. Pour Tristan Harris, récemment invité au Maif social club : « La publicité est le modèle économique le plus cher, quoi qu’on en pense » rapporte Hubert Guillaud . Reste à savoir quels garde-fous viendront soutenir ces belles paroles, réguler les pratiques et encourager de nouveaux modèles. De fait, ces questions sont loin d’être résolues : en France, les quelques organismes qui s’en emparent (CNIL, CNNum, CESE, etc.) n’ont guère de moyens et produisent des avis non contraignants.

S’il y bien une dernière chose qu’on ne peut pas retirer aux repentis de la Silicon Valley, c’est d’avoir fait des petits dans l’hexagone. Les designers éthiques sont également actifs en France et parfaitement conscients des différents enjeux et autres pièges à éviter. Le mouvement Ethic by Design a d’ailleurs récemment annoncé la date de la principale conférence française dédiée à la conception numérique responsable et sociale. Leurs réflexions maintenant alimentées de tous ces retours du terrain n’en seront que plus riches.


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

Les sources de cet article


S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF