Des premiers forums féministes à #MeToo, le web est devenu un lieu d’expression et de rencontre pour les femmes. Il en est de même pour les personnes de couleur et LGBTQIA+. Pourtant, le web reste trop souvent un espace de discriminations et de violences envers les minorités, dans le prolongement de celles qui ont lieu hors ligne. De même, les algorithmes sur lesquels repose une part croissante de notre expérience des plateformes en ligne ainsi que certaines décisions administratives, intègrent des biais qui leur sont défavorables.
Dans son ouvrage, Technoféminisme. Comment le numérique aggrave les inégalités, Mathilde Saliou, journaliste spécialiste du numérique, décortique les multiples facettes de ce phénomène. Articulant faits d’actualité, repères historiques, études issues de différentes disciplines et références académiques, l’ouvrage, passionnant et documenté, s’écarte tant d’une vision dystopique que d’un solutionnisme technologique et témoigne d’une fine connaissance des problématiques féministes. Dans un contexte où nos espaces numériques sont le produit d’un entre-soi blanc et masculin, l’auteure plaide pour plus de diversité.
Cultures d’internet, masculinisme et propagation de l’extrême droite
Dans une première partie du livre, l’auteure s’intéresse au rôle des cultures internet dans la diffusion d’idées conspirationnistes et masculinistes d’extrême droite.
L’ouvrage s’ouvre sur le cas d’Alek Minassian. Au volant de sa camionnette, celui-ci tue 10 personnes, dont 8 femmes. Sur internet, il fréquente alors la communauté des « incels », des masculinistes auto-proclamés « célibataires involontaires », qui nourrissent un ressentiment envers les femmes desquelles ils se sentent exclus. L’auteure montre que ce type de féminicide n’est pas arrivé avec internet mais que le numérique a permis aux discours masculinistes de prendre une nouvelle ampleur.
En particulier, internet permet aux tenants des mouvements masculinistes de se réunir. Au côté de 4chan ou Reddit, la journaliste souligne l’usage de plateformes dédiées aux jeux vidéos telles que Discord, Twitch ou encore le site jeuxvideos.com. En France, ces mêmes espaces de discussions sont investis par l’extrême droite et les deux mouvements se côtoient, se mélangent. Mathilde Saliou s’attarde sur le “Gamergate”, cette vaste campagne de cyberharcèlement à l’encontre de Zoë Quinn à la parution de son jeu vidéo proposant aux joueur..ses d’incarner une personne dépressive. Mais peu après, c’est à l’extrême droite de se lancer dans le cyberharcèlement sous l’égide de Steve Bannon, qui, explique l’auteure du livre, découvre que la culture peut devenir un outil pour modifier le champ politique : progressivement, ceux qui harcèlent Zoë Quinn se muent en partisans de la droite américaine dite « alternative », militant pour l’élection de Trump. Leurs discours, misogynes, réactionnaires et bientôt complotistes, voient leur portée exacerbée par les réseaux sociaux. Les algorithmes, sur lesquels l’auteure reviendra plus loin dans le livre, contribuent à cette dynamique, en valorisant les contenus polémiques qui suscitent l’engagement – au centre de l’économie des plateformes – et en créant des effets d’enfermement pour ceux qui les véhiculent ou s’y intéressent.
Quand la technologie oublie le rôle des femmes
Dans un second chapitre de son livre, Mathilde Saliou propose une contre-histoire du numérique, rétablissant le rôle joué par les femmes dans son développement.
La journaliste débute cette contre-histoire par Ada Lovelace. Passionnée de mathématiques, celle-ci traduit, mais surtout commente, un article sur la machine analytique mise au point par Charles Babbage et conçue pour calculer des polynômes pour faciliter la correction des tables nautiques. Au détour d’un de ses commentaires, elle imagine ce qui s’apparente au premier programme de l’histoire de l’informatique.
Plus tard, c’est pour des projets universitaires en astronomie ou des besoins militaires que des femmes sont recrutées comme « calculatrices » – « computer » en anglais. Ce travail, supposé peu qualifié, est alors assimilé à la bureautique, et les femmes, main d’œuvre meilleure marché que leurs homologues masculins, sont recrutées pour effectuer des calculs et manipuler les premiers ordinateurs dont elles assurent la programmation et la maintenance.
Pourtant, quand l’informatique prend son essor, les femmes sont progressivement mises à l’écart (en occident au moins). Pour la journaliste, ce phénomène est à replacer dans un contexte plus large où les femmes sont conçues comme moins capables que les hommes, physiquement autant qu’intellectuellement, une conception naturaliste des relations entre femmes et hommes qui imprègne l’évolution de la science depuis les Lumières.
Peu à peu, ce sont aussi des valeurs et des stéréotypes masculins (celui du geek notamment) qui sont associés aux technologies numériques.
Une neutralité problématique
Au-delà d’une histoire féminisée du développement des technologies numériques, le second chapitre de Mathilde Saliou s’inscrit dans le prolongement d’études critiques de la démarche scientifique. S’il ne s’agit pas d’en mettre en doute les résultats, l’objectif est d’en pointer les zones d’ombres et d’interroger sa prétention de neutralité.
En effet, explique l’auteure, la mise à l’écart des femmes des domaines scientifiques n’est pas sans conséquences. En médecine, par exemple, le peu d’intérêt jusque récemment pour une maladie comme l’endométriose en témoigne. Et lorsqu’Apple sort son « Health Kit », personne n’a jugé utile d’y intégrer une application de suivi des règles bien que la moitié de l’humanité soit concernée par des menstruations…
S’appuyant sur les travaux de Donna Haraway et, à sa suite, de Sandra Harding, la journaliste invite à penser une démarche scientifique qui, sans tomber dans le relativisme, prenne en compte ses conditions d’énonciation et les points de vue opposés, recherchant une « objectivité forte » fondée sur la pluralité.
Les propos du second chapitre du livre font émerger une problématique que la journaliste va approfondir dans son troisième chapitre : conçus par une minorité (numérique) d’hommes blancs, nos outils numériques, sous leur apparente neutralité, comportent des biais qui agissent défavorablement envers les populations minorisées. Or, de tels biais prennent toute leur importance lorsqu’ils s’appliquent aux algorithmes.
Des algorithmes conçus par des hommes blancs… et optimisés pour eux ?
C’est par quelques exemples, à nouveau, que Mathilde Saliou ouvre son propos : d’abord trois situations dans lesquelles des hommes noirs sont identifiés par des logiciels de reconnaissance faciale alors qu’ils n’ont commis aucun crime ; ensuite, le cas d’une pigiste travaillant pour différents journaux, identifiée par l’algorithme de la CAF (Caisse d’Allocations Familiale en France) comme cumulant différentes fonctions sans tenir compte du statut de pigiste.
De telles erreurs, explique la journaliste, sont imputables à des biais présents au sein des algorithmes. Pour la reconnaissance faciale, l’auteure cite deux études. La première, réalisée par l’informaticienne Joy Buolamwini démontre que les trois modèles algorithmiques utilisés sur le marché sont beaucoup plus efficaces pour reconnaître des hommes à peau claire que des femmes à peau foncée. La seconde, publiée par le « National Institute of Standards and Technology », montre que, sur 189 algorithmes étudiés, un taux d’erreur 10 à 100 fois plus élevé est observé dans la reconnaissance des visages asiatiques ou afro-américains. Dans le cas des algorithmes qui déterminent l’attribution des aides sociales, l’auteure donne la parole au sociologue Vincent Dubois pour expliquer que l’identification par le logiciel découle de différents facteurs de risques comme celui d’être une femme seule ou d’avoir peu de revenus.
Mais d’où viennent ces biais ? Si le troisième chapitre du livre de Mathilde Saliou s’ouvre sur leurs conséquences, c’est pour progressivement s’intéresser à la manière dont ces algorithmes sont produits. Pour être efficaces, de tels algorithmes doivent en effet ingurgiter des quantités de données. Or, la constitution des lots de données utilisés et leur labellisation sont élaborées par des personnes humaines, tributaires de leurs propres biais et stéréotypes.
Des pistes de résistances
Face à ce constat, l’auteure identifie une première piste de résistance. Celle-ci consiste à soumettre les algorithmes à des audits – par exemple la nécessité de les tester sur différents jeux de données – et à tenter de corriger ces biais. Mais ceci peut s’avérer complexe, car la correction d’un biais peut en faire apparaître d’autres. L’auteure évoque également d’autres pistes de résistance : par le rejet et par la mobilisation.
Cependant, si certaines mobilisations ont pour effet de suspendre les projets en cours – par exemple dans l’attente d’une législation adéquate ou pour promettre la correction de certains biais algorithmiques – l’auteure souligne un effet de bord : la question de savoir si ces technologies sont simplement souhaitables ou non se trouve éludée.
Quid du consentement ?
La quatrième partie du livre de Mathilde Saliou est dédiée au consentement.
L’auteure s’intéresse d’abord au « nudge » qu’elle illustre avec les panneaux placés à l’entrée des villages et présentant une expression faciale mécontente pour inciter les automobilistes à ralentir. Du nudge dérive le sluge, une contraction de nudge et de slut, proposée par Richard Thaler pour décrire certains dispositifs comme les dark pattern – nous incitant par exemple à accepter les cookies lorsque nous surfons sur internet – ou la complexité d’accès des formulaires de demandes d’aides sociales. Comme les algorithmes, ceux-ci orientent nos comportements et nos choix.
Dans ce chapitre, Mathilde Saliou s’intéresse aussi aux financements inégaux dont bénéficient les entreprises du numérique et donne quelques chiffres. Par exemple, en France, en 2020, les fonds accordés à des startups ont été attribués 9 fois sur 10 à des équipes complètement masculines. Et les investissements accordés aux « femtech », des logiciels et technologies dédiés aux besoins biologiques féminins, sont aussi moins élevés. L’auteure rappelle aussi que les figures richissimes de la Silicon Valley telles qu’Elon Musk ou Peter Thiel sont masculines.
Pour la journaliste, les algorithmes, les nudges, mais aussi la logique sous-jacente aux financements, posent la question de notre consentement. Dans la foulée de ce questionnement, elle s’intéresse au RGPD RGPD Le règlement général sur la protection des données est un règlement de l’Union européenne qui constitue le texte de référence en matière de protection des données à caractère personnel. Il renforce et unifie la protection des données pour les individus au sein de l’Union européenne. (Wikipédia) dont elle met en évidence les faiblesses : conçu pour impliquer les gens de manière active, celui-ci conduit trop souvent à une acceptation passive et automatique des cookies et traceurs. S’appuyant sur les travaux de Geneviève Fraisse et sur ceux d’autres auteur..ices de philosophie politique, Mathilde Saliou explore différentes facettes du consentement et questionne les possibilités de notre libre arbitre.
Des pistes d’action pour des futurs technoféministes
Dans le dernier chapitre de son livre, Mathilde Saliou évoque finalement quelques pistes d’actions pour travailler sur l’infrastructure du numérique et les enjeux de pouvoir qui l’habitent : la vulgarisation, le « care » et la décentralisation. Ces « lignes de fuites » concernent trois domaines : l’éducation, le lien et le pouvoir.
En premier lieu, la vulgarisation consiste dans l’enseignement des bases permettant de comprendre les enjeux. Par exemple, pour l’auteure, problématiser la collecte de données de localisation d’une application devient plus évident si l’on comprend que celles-ci peuvent être utilisées pour contrôler les femmes dans certains pays où l’on restreint l’accès à l’IVG. En second lieu, développer une éthique du care en ligne suppose d’aménager des espaces apaisés et de recréer du lien social dans un contexte où les femmes sont confrontées à des contenus haineux et violents. Enfin, à l’opposé de la centralisation et de la concentration de pouvoir, l’auteure encourage l’adoption de modèles fondés sur la décentralisation. Dans le contexte du numérique, de telles organisations existent déjà et la journaliste mentionne par exemple l’Internet Engineering Task Force, élaborant les protocoles de l’Internet ou le Consortium du World Wide Web.
