L’intelligence artificielle “blanche” exacerbe les préjugés raciaux du monde réel

L’intelligence artificielle “blanche” exacerbe les préjugés raciaux du monde réel

10/08/2020 Non Par Arnaud Lefebvre

Selon des scientifiques de l’Université de Cambridge, les représentations culturelles de l’intelligence artificielle doivent être remise en question car elles n’offrent pas d’avenir post-racial.

Dans leur étude publiée dans la revue Philosophy and Technology, les chercheurs mettent en cause la « blancheur » de l’IA. Ce phénomène écarterait les personnes de couleur de la manière dont l’humanité envisage son futur technologique, indiquent-ils.

La « blancheur » de l’IA

Selon les experts de Cambridge, les représentations et stéréotypes actuels sur l’IA risquent de créer une main-d’œuvre « racialement homogène » d’aspirants technologues. Par conséquent, on aboutirait à la création de machines avec des préjugés intégrés à leurs algorithmes.

Les scientifiques du Leverhulme Center for the Future of Intelligence (CFI) de Cambridge estiment que les représentations culturelles « blanches » de l’IA doivent être remises en question, car elles n’offrent pas de vision future « post-raciale ». Au lieu de cela, elles véhiculent la perspective d’un avenir dans lequel les personnes de couleur sont tout bonnement effacées.

« Tout comme c’est le cas pour d’autres préjugés présents dans la science-fiction, l’IA a toujours reflété la pensée raciale dans la société », affirment les chercheurs.

Il existe une longue tradition de stéréotypes raciaux en ce qui concerne les extraterrestres, font  valoir les chercheurs. Ils citent l’exemple de l’extraterrestre orientalisé de l’Empereur Ming l’impitoyable dans le comic strip américain Flash Gordon ou encore la caricature caribéenne du personnage de Star Wars, Jay Jay Binks.

« Machine blanche »

Toutefois, en ce qui concerne l’IA, elle est dépeinte comme « blanche » car, contrairement aux espèces en provenance d’autres planètes, elle possède les attributs utilisés afin de justifier le colonialisme et la ségrégation par le passé, indique l’étude.

« Étant donné que la société a, pendant des siècles, promu l’association du renseignement avec les Européens blancs, nous devons nous attendre que lorsque l’on demande à la culture de l’IA d’imaginer une machine intelligente, cela soit une machine blanche », explique le Dr Kanta Dihal, qui dirige le programme « Decolonising AI » du CFI.

« Les gens font confiance à l’IA pour prendre des décisions. Les représentations culturelles encouragent l’idée que l’IA est moins faillible que les humains. Dans les cas où ces systèmes sont racialisés en tant que blancs, cela pourrait avoir des conséquences dangereuses pour les humains qui ne le sont pas. »

Les experts ont examiné des recherches récentes dans une ample gamme de domaines, portant sur l’interaction homme-machine ou encore au sujet de la théorie critique de la race, pour démontrer que les machines peuvent être racialisées et que cela perpétue les préjugés raciaux du « monde réel ». Les chercheurs ont travaillé sur la manière dont les robots noirs sont perçus comme ayant des identités raciales distinctes et sur une étude ayant montré que le public se sent plus proche des agents virtuels lorsqu’il perçoit une identité raciale partagée.

« L’une des interactions les plus courantes avec la technologie de l’IA a lieu avec des assistants virtuels d’appareils tels que les smartphones, qui parlent en anglais standard de la classe moyenne blanche », précise Dihal. « Les propositions d’ajout de dialectes noirs ont été rejetées comme étant trop sujettes à controverse ou en dehors du marché cible. »

Les chercheurs ont mené leur propre enquête sur les moteurs de recherche. Ils ont constaté que tous les résultats non abstraits pour l’IA avaient des caractéristiques caucasiennes ou étaient de couleur blanche.

« Les stocks d’images pour l’IA distille les représentations de machines intelligentes dans la culture populaire occidentale telle qu’elle s’est développée au fil des décennies. De Terminator à Blade Runner, de Metropolis à Ex Machina, toutes les machines sont interprétées par des acteurs blancs ou sont visiblement blanches à l’écran », indique le Dr Stephen Cave, co-auteur de l’étude et directeur exécutif de CFI. « Les androïdes en métal ou en plastique ont des traits blancs. Même les IA désincarnées, de HAL-9000 à Samantha dans « Her » – ont des voix blanches.

« Ce n’est que très récemment que quelques émissions de télévision, telles que Westworld, ont utilisé des personnages IA avec un mélange de tons de peau.»

Exacerbation des inégalités raciales

« L’IA est souvent décrite comme déjouant et surpassant l’humanité. La culture blanche ne peut pas imaginer être prise en charge par des êtres supérieurs ressemblant à des races qu’elle a historiquement qualifiées d’inférieures. Les images de l’IA ne sont pas des représentations génériques de machines ressemblant à des humains. Leur blancheur est un indicateur de leur statut et de leur potentiel », estime le professeur Kanta Dihal.

Cette dernière met en garde contre le fait que la perception d’une IA blanche fait en sorte qu’il est plus difficile pour les personnes de progresser dans ce domaine technologique.

« Si la démographie des développeurs ne se diversifie pas, l’intelligence artificielle risque d’exacerber les inégalités raciales. »