Digital Society Forum Digital Society Forum
Dossier
  • Les thèmes
  • Dossier
  • Agenda
  • Le magazine
  • commentaires
  • auteurs de référence
  • Vidéos
  • Sources
Dossier 07/06/2019

L'entraînement d'une IA peut générer la même empreinte carbone que cinq voitures

Pour entraîner les intelligences artificielles, d'énormes quantités d'énergie sont nécessaires. (ici le data center BalticServer, CC, Wikipédia )
Entraîner une IA produit autant d’émissions de gaz carboniques que 5 voitures, de la fabrication à la casse. C’est ce que montre une récente étude menée par deux chercheuses et un chercheur américains, analysée par la revue américaine MIT Tech Review.

Quel est le coût écologique de la révolution numérique ? Quelle est l’empreinte carbone du cloud, des bitcoins et des intelligences artificielles ? Ces questions centrales pour l’avenir des sociétés et de la planète sont pourtant encore insuffisamment abordées et aujourd'hui encore, le mythe du cyberespace désincarné et du « nuage » (cloud) a la vie dure.

Le coût écologique du traitement automatisé du langage


L’équipe de recherche s’est concentrée sur les intelligences artificielles utilisées dans le traitement automatique du langage naturel , (Natural Language Processing), un champ qui vise à développer des applications proches du langage humain. Comme le souligne l’article de la MIT Tech Review, c’est dans ce domaine que des avancées marquantes ont récemment été accomplies, comme les progrès des traductions automatiques ou encore les IA capables d’écrire des articles de news convaincants .
Ces dix dernières années, note l’étude, ces systèmes d’intelligences artificielles sont devenues énormément plus consommatrices d’énergie. Là où, il y a dix ans, il était possible de les faire fonctionner sur des ordinateurs ou des serveurs disponibles dans le commerce, il est désormais nécessaire d’utiliser des équipements beaucoup plus coûteux et énergivores. Car pour obtenir une plus grande précision des systèmes, il faut parfois les faire tourner pendant des semaines, voire des mois. (ces systèmes s’améliorent en « tournant », en essayant de multiples combinaisons dans ses systèmes d’essai-erreur).

Cinq fois l’empreinte carbone d’une voiture, de la fabrication à la casse


L’équipe de recherche d’Amherst a calculé l’impact écologique de quatre systèmes d’intelligences artificielles, parmi les plus utilisées dans le domaine du traitement automatique du langage naturel.
L’équipe les ont fait « s’entraîner » pendant une journée, pour calculer leurs besoins énergétiques. A partir du nombre d’heures d’entraînement annoncées pour chacune, l’équipe de recherche a pu obtenir une estimation globale de ses besoins énergétiques. En se référant au mix énergétique (la répartition des différentes sources d’énergies primaires consommées dans une zone géographique donnée) américain, elle en a ensuite déduit l’impact énergétique.
Et celui-ci est énorme : le processus d’entraînement d’une Intelligence Artificielle peut avoir la même empreinte carbone que cinq voitures, de la fabrication jusqu’à la casse.
Les coûts énergétiques de ces modèles augmentent proportionnellement à leur taille, mais ce sont surtout des étapes d’affinage des résultats qui font exploser la facture. L’équipe de recherche pointe surtout le procédé dit « neural architectural search » , qui consiste à optimiser le réseau de neurones par petites modifications successives, à partir d’essai-erreur : celui-ci consomme énormément d’énergie, pour une amélioration des performances réduite.

Vers la privatisation de la recherche ?


La mise en lumière des coûts énergétiques de l’entraînement de ces modèles pointe vers une autre dimension rarement discutée de la recherche en IA : son coût. Avec le développement de modèles toujours plus puissants, entraînés sur des quantités de plus en plus énormes de données, les coûts explosent. Les infrastructures nécessaires pour entraîner et faire tourner ces systèmes deviennent inaccessibles pour les budgets des universités publiques. Emma Strubell, la doctorante d’Amherst ayant dirigé l’étude, dénonce ainsi au MIT Tech Review la mise en place d’un système d’accès à la recherche à deux vitesses, où les chercheurs du privé seraient nettement favorisés. En conclusion, les chercheuses et chercheurs proposent donc la mise en place d’un serveur accessible aux chercheurs et financé par l’argent public, pour « assurer un accès équitable à tous les chercheurs », ainsi qu’un effort concerté, mené par l’industrie et la recherche, pour favoriser des algorithmes plus efficaces au plan énergétique, et des infrastructures moins gourmandes en énergie.





Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Olivier Bonnet
Olivier Bonnet 10/06/2019 21:55:56

Très bonne article, je pense qu'avec les années et l'avancé technologique, les I.A seront de moins en moins polluantes.