L’ouvrage Contre-atlas de l’intelligence artificielle, de l’artiste et universitaire Kate Crawford, démarre par une affirmation tranchée : l’intelligence artificielle n’est ni intelligente, ni artificielle.
« […] L’intelligence artificielle est à la fois incarnée et matérielle, faite de ressources naturelles, de carburant, de main d’œuvre humaine, d’infrastructures, de logistique, d’histoires et de classifications. Les systèmes d’IA ne sont ni autonomes, ni rationnels, ni capables de discerner quoi que ce soit sans formation extensive et intensive sur le plan computationnel, grâce à d’importants ensembles de données, avec règles et récompenses prédéfinies. En fait l’intelligence artificielle telle que nous la connaissons dépend entièrement d’un ensemble beaucoup plus large de structures politiques et sociales. Et à cause du capital nécessaire pour produire l’IA à grande échelle et des manières de voir qu’il optimise, les systèmes d’IA sont finalement conçus pour servir les intérêts dominants. En ce sens, l’intelligence artificielle est le reflet du pouvoir. »
Ce « contre-atlas » est un voyage passionnant dans le développement et l’approfondissement de ce paragraphe introductif. Australienne, Kate Crawford, travaille entre New York et San Francisco, pour des centres de recherches aussi variés que la NYU, Microsoft… Elle cofonde en 2017, AI Now. un centre de recherche qui étudie les implications sociales de l’IA et la concentration du pouvoir dans l’industrie de la tech. Dans son travail, Crawford multiplie les angles d’attaque de ces sujets, ouvrant autant de portes d’entrées dans la matière de l’IA.
Tout au long du livre, les anecdotes et les enquêtes journalistiques alternent avec des perspectives plus historiques. Elle traque les impasses conceptuelles inhérentes à la fabrication des systèmes d’apprentissage automatisés. Le plan du livre (La Terre – La main d’œuvre – Les données – La classification – Les affects – L’État – Le pouvoir – L’espace) déroule les axes de travail à partir desquels l’autrice avance la thèse suivante : l’IA est une entreprise planétaire d’extractivisme généralisé, du minerai aux émotions en passant par les gestes des travailleurses, qui profite à celles et ceux, acteurs étatiques et privés, qui construisent et maîtrisent ces machines à « prédire l’avenir ».
À chaque chapitre, Crawford multiplie, quitte à se répéter, les exemples qui rendent compte de l’idéologie plus ou moins assumée à l’œuvre dans cette mise en nombre du monde. Elle va chercher dans l’épaisseur historique les fils qui relient l’IA à ses diverses origines scientifiques, militaires ou industrielles, de la physiognomonie [1] racialiste à l’automatisation de la production. Elle rappelle à chaque fois le principe impérialiste qui sous-tend cette course à « toujours plus de données », à savoir le contrôle des populations.
On sort de la lecture de cette recherche au long cours avec un sentiment de vertige : l’IA, comme d’autres techniques d’automatisation du travail avant elle, est le vecteur de la concentration toujours plus grande des moyens politiques et économiques de nos sociétés dans les mains d’un nombre toujours plus restreint de décideurs, aujourd’hui à la tête d’entreprises tentaculaires et de fortunes colossales. Certains d’entre eux, comme l’épilogue Crawford, se lancent dans la course à l’espace, convaincus que le seul moyen de continuer à assurer la croissance infinie nécessaire à leur « survie » capitaliste réside dans une colonisation du système solaire. Elle nous apprend par exemple que Jeff Bezos (Amazon) est influencé par le physicien et romancier Gerard K. O’Neill et son ouvrage Les Villes de l’espace. Dans cet ouvrage, ce dernier imagine une sorte de feuille de route pour organiser le peuplement, l’industrialisation et la production d’énergie dans l’espace, motivé qu’il fut par le choc et l’effroi qu’il ressentit en lisant Les Limites à la croissance (dans un monde fini), le rapport publié en 1972 par le Club de Rome.
Pour celleux qui souhaiteraient à l’issue de cette lecture approfondir les chapitres traitant du travail humain de classification des données, effectué tant par des micro-tâcherons que par les utilisateurices des plateformes (clientes ou prestataires de services), il peut être intéressant de poursuivre avec le livre En attendant les robots d’Antonio A. Casilli.
Dans cet ouvrage, Casilli fait le constat que l’IA a et aura toujours besoin de plus de matières premières (les données) produites par des humains, et donc de plus en plus de travail humain. Et comme l’humain sera toujours nécessaire, il n’exclut pas que soit renversé l’imaginaire de « la libération du travail par les robots » en un futur où « les robots feront de la poésie pendant que les humains travailleront à les entraîner », c’est-à-dire qu’on aille « non pas vers la disparition du travail, mais sa digitalisation ».
