Une collègue me fait part de son agacement envers son partenaire, car il utilise ChatGPT pour des demandes futiles telles que : « que faire pendant une journée à Amsterdam ? » Ma collègue m’assure que les résultats qu’il obtient sont complètement prévisibles ; les conseils de l’application sont les mêmes que ceux qu’il obtiendrait pour la même requête dans un moteur de recherche lambda. Quand elle le lui fait remarquer, il ne la contredit pas mais lui explique qu’il aime utiliser le modèle de langage pour son interface et la manière dont le système structure ses réponses. Pour un voyage à Amsterdam, il ne lui est donc plus nécessaire de comprendre la situation géographique de la ville ou de calculer les distances entre deux lieux pour être certain qu’ils peuvent être visités dans la même journée. Le logiciel lui offre une feuille de route parfaitement ficelée où aucun des sites les plus touristiques ne sera manqué.
L’irritation de ma collègue est évidente, mais elle a du mal à expliquer pourquoi ; et c’est peut-être aussi en partie une des raisons de son agacement.
Je suppose que cette scène est reconnaissable (si elle n’est déjà familière) pour beaucoup d’entre nous ; soit parce que nous avons nous-mêmes laissé ChatGPT se glisser dans nos gestes quotidiens, soit parce que nous sommes stupéfaites de la vitesse avec laquelle son utilisation a pris une place de plus en plus considérable dans les pratiques et habitudes des personnes qui nous entourent. Sous couvert de nous faciliter la tâche, de gagner du temps et d’être plus performant, cette adoption normalisée de ChatGPT est peut-être la conséquence d’un besoin de simplicité et de clarté pour pouvoir agir et penser au quotidien face aux complexités du monde. Et c’est précisément ce que fait ce modèle de langage : saisir le monde pour le réduire efficacement à quelques paragraphes.
Cependant, ChatGPT n’est efficace que dans une certaine mesure. Son approche totalisante et universaliste efface toute différence et complexité, nous privant de notre capacité à penser le monde dans son ensemble et sous des angles multiples. Son extractivisme intellectuel traite toute pratique liée au champ culturel comme une simple ressource, n’attendant qu’à être consommée passivement. Comme s’il n’était pas nécessaire de s’engager de façon critique dans la production intellectuelle, au sein par exemple de l’art, la littérature, la poésie, la théorie ou autres formes urgentes d’expressions intellectuelles, et que l’engagement humain dans cette production constituait un coût à optimiser. Son extractivisme matériel a un impact dévastateur sur la Terre, tant en termes d’extraction de minerais et de manufacture d’appareils électroniques, que de consommation croissante d’eau et d’électricité nécessaire à l’exécution de ses calculs. Ceci sans parler de l’exploitation des travailleureuses se situant à différents emplacements de cet engrenage infernal (usines à clic, sites miniers, chaînes de montage de matériel électronique…). Dans tous ces aspects, ChatGPT requiert et perpétue une logique coloniale basée sur un extractivisme et une appropriation extrêmes. En l’utilisant, nous devenons consommateurices passifves d’un contenu généré au travers de cette violence coloniale qui est ainsi en même temps maintenue en place.
Accroître le rythme [1], accroître la précision [2], accroître l’efficacité [3] ; quel que soit l’objectif poursuivi, ce type de systèmes alimentés par l’IA nous propulse dans une réalité contrefaite, de quantification absolue où tout est à mesurer et à améliorer.
L’utilisation de grands modèles d’IA (LLM) dans des questionnements du quotidien induit une relation au monde similaire à celle qui guide l’entreprise coloniale de perfectionnement militaire, sans limite et meurtrière. À travers l’optimisation des méthodes de guerre et de ces procédures mortelles automatisées, se dessine le fantasme d’une vision omnisciente informée par des « quantités psychotiques » [4] d’informations supposées pouvoir être traitées par de larges systèmes. Il s’agit de logiques militaires envisageant une zone de guerre opérable à distance, où les « cibles » sont identifiées et « neutralisées » par des systèmes automatisés. Après tout, ces systèmes plus-qu’humain en savent plus, donc savent mieux.
Il est à la fois nécessaire mais aussi difficile d’évoquer la manière dont les systèmes alimentés par l’IA importent des logiques militaires dans notre quotidien. Il semble presque impossible d’évoquer la violence de ces systèmes dans les moments les plus anodins de la vie de tous les jours, notamment parce que les besoins qu’ils comblent révèlent l’impossibilité de donner place à la complexité au sein de notre quotidien. Pourtant, cette violence et cette banalité sont intimement liées.
ChatGPT induit une réalité dans laquelle s’organiser, douter, chercher ou se perdre deviennent des problèmes à déléguer aux systèmes créés par des entreprises privées et où il est normal d’exiger une réponse rapide, précise et définitive que ce soit pour l’organisation des vacances ou pour un devoir. Insidieusement, une confiance envers ces systèmes s’est installée et balaye discrètement l’esprit critique nécessaire à l’analyse des réponses présentées et de leurs constructions algorithmiques. Il est évident que faire confiance à ChatGPT pour organiser ses vacances ne constitue pas une grande prise de risque, hormis peut-être de se retrouver dans des lieux bondés faisant partie d’une trajectoire de consommation touristique prédéfinie. Cependant, il est important de comprendre que la confiance placée dans un tel système réaffirme et reconfirme le régime des opérations techno-militaires prenant des décisions de vie ou de mort. Le problème étant que ces systèmes sont agnostiques quant à l’objectif pour lequel ils se retrouvent déployés. En pratique, leur logique ne change pas : plus ils traitent de données, plus ils se rapprochent supposément de la « vérité ». Dans un cas, la « vérité » désigne le musée Madame Tussaud comme attraction touristique incontournable à Amsterdam ; dans un autre, il s’agit de sélectionner et de cibler de prétendus terroristes sur base de leur silhouette ou de leur démarche.
Accepter ce que ChatGPT restitue comme un savoir acceptable, c’est d’une certaine manière, tenir pour « correctes » les opérations d’une violence extrême facilitées et amplifiées par des systèmes alimentés par de la soi-disant IA dans la bande de Gaza et ailleurs.
Parler d’exécution à grande échelle alors que l’on se trouve sur la route des vacances est certainement inconfortable. Mais cet inconfort doit se normaliser afin de ne pas se voiler la face. Nous pouvons aspirer à la satisfaction de nos différents besoins et pratiques sans nous violenter les unes les autres. Nous devons parvenir à des modes d’être, de parler, de résister ensemble et refuser les logiques de guerres édulcorées et disséminées par des systèmes « quand même bien pratiques ».
