L’IA surveille de plus en plus le monde

Le monde est de plus en plus sous surveillance, écrit le Washington Post. Un nouveau rapport du National Endowment for Democracy (NED) analyse les tendances de la surveillance via l’IA. Et selon celui-ci, de plus en plus de caméras dont le fonctionnement repose sur l’IA s’allument dans plusieurs endroits du monde sans contrôle afin de s’assurer que ces nouvelles performances ne font pas l’objet d’abus.

Même les démocraties libérales utilisent la surveillance via IA

La surveillance des citoyens orchestrée par la République populaire de Chine est désormais bien connue. Via son système permanent de surveillance biométrique et de contrôle des médias sociaux, le gouvernement chinois peut surveiller et contrôler la minorité musulmane ouïghour dans la région du Xinjiang et le reste de ses citoyens.

Cependant, la menace est plus large, explique le quotidien américain. Même les démocraties libérales utilisent des infrastructures de surveillance. Les services de police des États-Unis, par exemple, se sont emparés d’un logiciel de reconnaissance faciale développé par Clearview AI et ont recours à une base de données de plus de trois milliards d’images.

De nombreux pays contrôlent le pouvoir de l’État pour se prémunir contre les pires résultats. De tels contrôles sont là pour protéger une presse libre, maintenir une société civile robuste et assurer une législature habilitée à soutenir l’exécutif. D’autres pays, cependant, sont plus fragiles.

Le rapport de la NED se concentre sur ce qu’il appelle les « États-charnières» mondiaux. Dans ceux-ci, l’État de droit existe. Toutefois, ces pays ont également des lacunes qui augmentent le risque que les technologies de surveillance soient utilisées à des fins malveillantes. Elles peuvent aider à enraciner ceux qui sont au pouvoir et leur permettre de se tourner davantage vers la répression.

Exemples de surveillance via l’IA

Les exemples sont nombreux.  Les autorités indiennes exploitent la technologie de reconnaissance faciale pour localiser les manifestants. L’IA sert également à fouiller les quartiers pauvres largement peuplés de migrants.

Le Pakistan a acheté un système de 18,5 millions de dollars pour surveiller le trafic en ligne. En Serbie, les responsables espèrent « couvrir toutes les rues et tous les passages importants » de Belgrade avec des équipements de surveillance. Jusqu’à présent, il n’existe aucune preuve que ces outils sont capables d’arrêter le crime. Toutefois, ces systèmes facilitent certainement la répression de la dissidence, explique le média. De nombreux systèmes sur lesquels les pays s’appuient proviennent, à faible coût, de la Chine.

Nations au développement technologique encore en cours

Ces nations, dont beaucoup sont encore en cours de développement technologique, n’ont pas encore décidé si elles souscriront à la vision autoritaire que le président chinois Xi Jinping a tenté de vendre au monde, précise le Washington Post. La Chine est également allée plus loin que la plupart des démocraties dans l’élaboration de cadres réglementaires pour l’IA chez elle. Par ailleurs, les autorités chinoises s’efforcent également d’établir des normes internationales.

« Le rapport NED est un bon argument pour que les démocraties rattrapent leur retard. Elles devraient établir des règles chez elles qui se tiennent responsables de l’utilisation de ces puissants outils d’une manière qui préserve les libertés civiles. Elles devraient également faire pression pour l’établissement de normes à l’étranger qui consacrent ces mêmes valeurs », conclut le journal.