Digital Society Forum Digital Society Forum
Focus 08/04/2019

En Chine, l'IA est une arme économique et politique

Beijing, la capitale chinoise, a annoncé investir 2 milliards de dollar dans le développement de l'IA. Photo de Lei Han , via Flickr , CC BY-NC-ND 2.0
La Chine et les Etats-Unis sont engagés dans une compétition féroce pour la domination dans le champ de l'intelligence artificielle. Pour la Chine, le développement de l'IA est une priorité absolue, mis au service du pouvoir chinois, économique et politique.

Le gouvernement chinois et son président Xi Jinping ont fait du développement du domaine de l’intelligence artificielle un enjeu économique, politique et stratégique majeur, tant au plan domestique qu’international.

Une priorité stratégique chinoise


“L’IA est aujourd’hui l’objet d’une forte compétition internationale. L’IA est une technologie stratégique qui sera déterminante pour l’avenir. Les principaux pays développés du monde considèrent le développement de l’IA comme une stratégie de première importance pour rendre leur pays compétitif et protéger la sécurité nationale.”
Ainsi s’ouvre le “Plan de développement de la nouvelle génération d’IA”, rendu public en 2017. Le document, qui définit la stratégie de la Chine en matière d’IA, affirme clairement l’objectif du pays : devenir leader mondial dans le domaine en 2030. Pour ce faire, le gouvernement chinois investit largement, plus d'une centaine de milliards de dollars. Il a récemment créé un fonds d’investissement doté de 30 milliards de dollars pour financer l’innovation .
L’Etat n’est pas le seul à investir : provinces et localités rivalisent d’annonces et de créations de zones dédiées à l’IA. Une province a annoncé investir 5 milliards de dollars dans l’IA, la capitale Beijing 2 milliards de dollars (autant que le budget du programme de recherche de la DARPA, l’agence de recherche militaire américaine, consacré à l’IA ).

Un écosystème de l’innovation très proche du pouvoir


Le développement de l’IA à la chinoise repose donc sur un fort investissement public et une grande proximité avec les organes du pouvoir. Aux Etats-Unis, l’essentiel de la R et D se fait dans le secteur privé et l’action publique l’encourage de façon largement incitative. Mais en Chine l’écosystème des entreprises et des acteurs de l’innovation est bien plus étroitement lié au pouvoir. Celui-ci peut aussi donner des directions à la recherche et orienter les politiques de recherche et développement des entreprises. Il a ainsi demandé à quatre grandes entreprises chinoises de l’IA, Baidu, Alibaba, Tencent et iFlyTek, de développer des outils pour la conduite automatisée et le natural language processing, afin que d’autres entreprises puissent ensuite s’appuyer sur ces tech et les reprendre.
La politique chinoise paie : le pays est aujourd’hui au coude à coude avec les Etats-Unis pour la position dominante dans le secteur. Plusieurs indicateurs en attestent : en matière de recherche, les articles scientifiques les plus cités sont aujourd’hui chinois. La Chine est également en tête en matière de nombre de brevets déposés. La Chine devance aussi les Etats-Unis dans le domaine de la vision par ordinateur  : plus d’un tiers des start-ups mondiales en vision informatique sont chinoises.

L’Arabie Saoudite de la donnée


Surtout, outre la politique d’investissement public, la Chine dispose de plusieurs atouts essentiels pour dominer le monde de l’IA.
Elle a déjà la puissance informatique nécessaire avec un parc d’ordinateurs puissants, indispensables pour faire tourner les algorithmes de l’IA.
Mais elle a surtout accès, avec sa population, à des masses énormes de données, sur lesquelles développer et entraîner des algorithmes. La Chine compte 1,4 milliard de personnes. La moitié de la population n’est pas connectée -- mais cela laisse tout de même 700 millions de personnes en ligne. Dans cette population connectée, le taux de pénétration des smartphones est très élevé. Ceux-ci sont beaucoup plus intégrés dans la vie quotidienne : ils sont utilisés pour la communication, les paiements, le shopping, les opérations bancaires, immobilières etc. Toutes ces activités génèrent d’énormes quantités de données personnelles, qui sont par ailleurs nettement moins protégées que dans d’autres pays. Les entreprises chinoises et le gouvernement ont donc accès à d’énormes ressources de données. Or, dans l’économie numérique et l’IA en particulier, les données sont la matière brute principale, le nouvel “or noir”. Selon un entrepreneur chinois , “Si les données sont le pétrole du nouvel âge numérique, alors la Chine en est l’Arabie Saoudite.”

Une vaste ressource de main-d'oeuvre


Et ce n’est pas que par la masse des données, mais aussi par la main-d’oeuvre disponible pour la traiter. Car comme le montrent de nombreux travaux, une grande partie des tâches que semblent accomplir des “IA” sont en réalité effectuées par des humains : étiquetage d’images, transcription, tri. La Chine dispose aussi dans ce domaine d’un atout essentiel, une vaste réserve de main-d’oeuvre disponible. Un peu partout dans le pays émergent des petites entreprises, souvent dans des zones périphériques et touchées par le chômage. Là, des dizaines et des dizaines de travailleurs peu payées font les petites mains des “intelligences artificielles”. “Nous sommes les usines de production d’il y a dix ans”, dit un de ces nouveaux entrepreneurs au New York Times. Pour la journaliste , cette main d’oeuvre est peut-être la vraie force chinoise dans la course à la suprématie en matière d’IA. Car les discours sur la réussite de l’IA chinoise masquent certaines lacunes. “Les articles de recherche chinois sont parfois suspects, tout comme les brevets. L’argent public est parfois versé en pure perte. Et la course à l’IA n’est pas forcément un jeu à somme nulle, où le vainqueur rafle toute la mise. Les données ne servent à rien s’il n’y a personne pour les analyser et les cataloguer. Mais la capacité à étiqueter les données est peut-être la vraie force chinoise, la seule que les Etats-Unis ne pourront peut-être pas égaler. En Chine, cette industrie émergente offre un aperçu de ce qui est depuis longtemps une promesse gouvernementale : une économie reposant sur la technologie plus que la production de biens.”

Le développement agressif de technologies militaires...


La Chine veut développer l’IA dans de nombreux domaines, de l’agriculture à la médecine en passant par la construction ou l’éducation. Mais ce qui la distingue, c’est le développement agressif de technologies d’IA de surveillance et d’usages militaires.
En octobre 2018, un haut gradé militaire du gouvernement a déclaré dans un discours officiel que l’objectif militaire de la Chine était de “réduire l’écart entre l’armée chinoise et les puissances les plus avancées du monde”, en tirant profit de “la révolution militaire en cours (...), qui tourne autour des technologies de l’information et des technologies intelligentes.” Pour la Chine, explique un chercheur membre d'un think tank américain basé en Chine , le développement des technologies militaires “intelligentes” est inéluctable. Elle mise donc sur ce secteur, pour des raisons autant géopolitiques que commerciales.
Les applications sont nombreuses, à l’international comme au plan domestique : la Chine veut intégrer l’IA dans des missiles à tête chercheuses, s’en servir pour surveiller ses citoyens, censurer les contenus sur Internet ou encore prédire la criminalité.
Elle développe les véhicules autonomes et les drones militaires, qu’elle exporte déjà dans des pays du Moyen-Orient comme l’Arabie Saoudite et les Emirats Arabes Unis. Au plan international, la Chine rejoint la communauté internationale pour condamner une “course à l’armement” liée à l’IA, qui abaisse le coût d’entrée en guerre et mènerait possiblement à des guerres automatisées. Mais certains experts doutent de sa bonne foi sur ce point, notant qu’en 2018, le ministère de la Défense a créé deux centres de recherches en IA consacrés aux technologies militaires et aux armes autonomes.

… et de la surveillance


Mais c’est surtout dans le domaine de la surveillance que les technologies d’intelligence artificielle chinoise s’illustrent. Il y aurait 200 millions de caméras de surveillance en Chine : quatre fois plus qu’aux Etats-Unis, par exemple. Dans les villes, les gares, les centres commerciaux, les immeubles, les écoles, des caméras de surveillance connectées à des logiciels de reconnaissance et d’identification des individus surveillent les citoyens. Pour “combattre le crime”, disent les autorités, faire respecter l’ordre à un carrefour, voire s’assurer que les élèves sont attentifs dans une classe .


Dans cette vidéo, un employé de Dahua Technology explique qu’avec les technologies de reconnaissance faciale de l’entreprise, il est possible de retracer les mouvements d’une personne sur une semaine entière.

L’ampleur de la surveillance et des technologies associées dessine un univers de contrôle social sans précédent. La surveillance des citoyens par un gouvernement autoritaire n’est pas propre à la Chine, et elle n’est pas non plus nouvelle dans ce pays. Mais la technologie, et particulièrement les technologies d’IA et d’identification des personnes, permettent un degré de contrôle sans précédent. En témoigne le fameux “crédit social” chinois, tentative de mise en place d’un score de “crédibilité” ou de “réputation”, individuel, calculé à partir du croisement de divers indicateurs et permettant de récompenser les citoyens respectant les lois et de pénaliser les autres.

L’émergence d’un complexe sécuritaro-industriel ?


Certains chercheurs voient dans le développement de l’IA en Chine l’apparition d’un complexe “sécuritaro-industriel” (security-military complex), où l’industrie de l’IA et le marché de la sécurité s’entraîne l’un et l’autre et où le développement de l’un nourrit l’extension de l’autre, et vice versa.
Plusieurs entreprises majeures spécialisées dans l’intelligence artificielle développent ainsi des solutions pour le marché privé et pour des applications militaires. SenseTime , leadeuse dans le domaine de la vision par informatique, vend à la fois des produits destinés aux civils et des solutions de surveillance au gouvernement.

Capture d'écran du site de SenseTime, proposant des cas où la reconnaissance faciale peut être utile

iFlyTek , elle, développe des solutions d’IA pour des systèmes de reconnaissance d’image et de reconnaissance vocale. Celles-ci sont utilisées dans le domaine de l’aide au diagnostic médical ou des voitures automatiques. Mais iFlyTek développe aussi des solutions de reconnaissance vocale pour les services de sécurité intérieure du gouvernement chinois. Selon l’association de défense des droits de l’homme Human Rights Watch , iFlyTek collabore avec les autorités pour constituer une énorme base de données vocale des citoyens chinois, pouvant servir au contrôle des citoyens.

Ordre social ou prisons numériques


Dans un pays où la loi peine à s’appliquer, beaucoup de citoyens accueillent cette pénalisation automatisée comme une bonne nouvelle. Mais il est difficile de se faire une idée de l’état de l’opinion publique dans un pays où les moyens de communication sont surveillés de si près. Un article rapporte ainsi que plusieurs élèves qui se sont découverts traqués par des caméras dans leurs salles de classe les ont débranché avant leurs examens en signe de protestation.
Quoi qu’il en soit, plusieurs organismes de défense des droits de l’Homme s’inquiètent des projets du gouvernement en matière de surveillance et de surveillance biométrique en particulier. Le gouvernement collecte des empreintes digitales, des empreintes vocales, des échantillons d’ADN de certaines populations qu’il considère comme ennemies, comme les Ouïgours. Et personne ne sait vraiment ce qu’il entend en faire, explique une chercheuse de l’organisation de défense des droits humains Human Rights Watch “Nous savons peu de choses de ce que fait vraiment la Chine pour révolutionner la surveillance. Nous avons peu d’éléments sur la façon dont elle utilise la reconnaissance vocale et la reconnaissance de langage. Pour l’instant, personne n’a encore enquêté sur le projet chinois des “safe cities”, des villes sûres, qui promettent de garantir la sécurité publique grâce à la technologie. Et nous en savons encore moins que la façon dont la Chine veut utiliser le big data pour la prédiction du crime.”
La ville de Kashgar, dans la province du Xinjiang, est un des laboratoires de ce contrôle social. La population de Kashgar est largement composée de Ouïgours, une minorité ethnique musulmane que le gouvernement chinois considère comme ennemie du régime. Les Ouïgours sont soumis à une répression sévère : contrôles de police renforcés et pour certains déportations et détentions dans des camps de rééducation, officiellement des “camps de formation”. Aujourd’hui, des dizaines de milliers de citoyens Ouïgours y seraient détenus. Mais l’IA et les technologies de surveillance permettent de placer ceux et celles qui sont libres dans une “prison virtuelle”, selon les termes d’un récent reportage glaçant publié par le New York Times .

Les journalistes ont identifié plus d'une vingtaine de caméras dans une seule rue (capture d'écran du site du New York Times)

Les habitants sont constamment surveillés, par la police qui patrouille les rues et par des systèmes de surveillance et d’identification. Vivre à Kashgar, pour les Ouïgours, c’est constamment être fouillé, passer par des portiques, devoir montrer sa carte d’identité quand on fait des achats, traverser des checkpoints équipés de reconnaissance faciale automatisée, se faire stopper dans la rue par la police pour vérifier qu’on a bien installé sur son téléphone une application obligatoire qui surveille les appels et les messages.

Un modèle qui connaît des limites mais s’exporte


Le discours que tient la Chine sur l’IA est celui d’un objectif de domination mondiale, largement assise sur le développement de technologies militaires et de surveillance.
Pour l’instant, ce discours est aussi à relativiser. D’abord parce que certaines réussites “chinoises” sont en fait des réussites d’équipes de recherche internationales, et que plusieurs entreprises chinoises ont des divisions stratégiques aux Etats-Unis, où travaillent beaucoup d’Américains. Ensuite parce que les capacités chinoises en matière d’IA sont encore limitées par certains facteurs : la Chine attire moins de talents internationaux, et la puissance des ordinateurs nécessaires au développement de l'IA repose largement sur des semi-conducteurs, pièces d’équipement fabriquées aux Etats-Unis . Mais la Chine le sait et passe beaucoup d’énergie à construire un secteur de semi-conducteurs chinois qui ne soit plus dépendant de l’extérieur.
Enfin, plusieurs rapports ou reportages tendent à prouver que pour l’instant, la surveillance chinoise a aussi des ratés : des caméras qui ne fonctionnent pas, les identifications peuvent prendre des semaines… Mais, note un correspondant du New York Times en Chine , cela finalement importe peu : le sentiment de la surveillance constante suffit à instaurer le panoptique, pas besoin que la technologie fonctionne…
En tout état de cause, comme la Chine investit à l’étranger et prête ses technologies dans le cadre de son projet de Nouvelle Route de la Soie, elle exporte aussi ses technologies d’IA. Elle a ainsi vendu ses systèmes de surveillance vidéos au Brésil, en Equateur, au Kenya et en Grande-Bretagne.

Le modèle chinois d’IA est en plein développement. Ses implications politiques et dystopiques constituent un avertissement : la dystopie technologique est possible et elle est en train de se mettre en place dans un des pays les plus puissants du monde.


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF