Cette professeure essaie de protéger notre cerveau face à la technologie

Notre cerveau risque de ne plus être privé pour très longtemps, estiment plusieurs experts dans le quotidien britannique The Guardian. Cette constatation pourrait annoncer un monde cauchemardesque où les opinions politiques, les pensées, les obsessions et les sentiments pourraient faire l’objet de punitions grâce aux progrès de la neurotechnologie. Telle est l’opinion de Nita Farahany, une des plus grandes éthiciennes juridiques des neurosciences au monde.

Protéger notre cerveau

Dans son nouveau livre « The Battle for Your Brain », la professeure de biosciences de l’Université Duke, Nita Farahany, soutient que de telles intrusions technologiques dans l’esprit humain devraient se concrétiser rapidement et qu’un débat public est nécessaire depuis longtemps. Par ailleurs, les législateurs devraient immédiatement établir des protections cérébrales comme cela serait le cas pour un autre domaine de la liberté individuelle.

Farahany travaille actuellement dans le cadre de sa bourse à l’étude des progrès dans le piratage et le suivi des pensées. La scientifique et d’autres experts estiment en outre que des garanties législatives en termes de confidentialité de la pensée sont nécessaires. Par ailleurs, il faut garantir les libertés contre les empreintes digitales cognitives (plus communément appelé « liberté cognitive » relevant du domaine de l’éthique, avance Farahany.

Risques des progrès en matière de simulation de la pensée

Le domaine de la neurotechnologie ne cesse de progresser. Le lancement récent de ChatGPT et d’autres innovations technologiques en rapport avec l’IA a déjà montré que la simulation de la pensée est déjà présente. C’est le cas par exemple avec l’apprentissage automatique.

D’autre part, Elon Musk avec Neuralink travaille à des interfaces cérébrales capables de lire directement nos pensées. Un nouveau domaine de la conception de médicaments améliorant la cognition, les nootropiques, est en cours de développement. Finalement, une technologie permettant aux personnes paralysées de contrôler un membre artificiel et d’écrire un texte sur un écran est également en train d’être développée.

Cependant, outre les nombreux avantages, avec ces différentes technologies, il existe des menaces claires telles que :

• l’endoctrinement et l’ingérence politiques ;
• la surveillance sur le lieu de travail et par la police ;
• la suppression du droit d’avoir des pensées ;
• les implications pour le rôle de l’intention dans le système judiciaire.

Interfaces cerveau-ordinateur

Nita Farahany a siégé à la Commission présidentielle pour l’étude des enjeux de bioéthique créée par Barack Obama. Elle estime que les progrès en neurotechnologie provoquent des intrusions par la porte de la vie privée du cerveau.

Farahany cite l’exemple des programmes militaires et de laboratoires de recherche financés par de grandes entreprises technologiques. Selon elle, ces innovations sont à portée de main via les interfaces cerveau-ordinateur comme la technologie portable.

« Toutes les grandes entreprises technologiques investissent massivement dans des appareils multifonctionnels dotés de capteurs cérébraux », a-t-elle expliqué à The Guardian. « Les capteurs neuronaux feront partie de notre technologie quotidienne et de la façon dont nous interagissons avec celle-ci. »

Toutefois, ces capteurs neuronaux, associés aux progrès scientifiques visant à décoder et réécrire les fonctions cérébrales, présentent un risque, estime la scientifique. Cette dernière plaide ainsi pour une action urgente consistant à des contrôles convenus.

« Nous disposons encore de temps pour bien faire les choses avant que cela ne se produise. Pour cela, il faut à la fois prendre conscience de ce qui se passe et faire des choix critiques pour décider comment nous utilisons la technologie de manière adéquate et non oppressive. »

Farahany précise que le cerveau est le seul espace dont nous disposons encore pour le sursis et l’intimité. Grâce à celui-ci, les personnes peuvent cultiver un véritable sens de soi où elles peuvent garder leurs ressentis et leurs réactions envers elles-mêmes. Toutefois, dans un futur très proche, cela ne sera plus possible, avertit-elle.

Signal d’alarme

Farahany explique avoir écrit son ouvrage en tant que signal d’alarme face aux risques représentés par la neurotechnologie. Cependant, son livre ne concerne pas seulement les progrès neurotechnologiques, mais bien toutes les manières dont les cerveaux peuvent être piratés et suivis.

Nous utilisons déjà la technologie pour traduire nos pensées et aider notre esprit. Les réseaux sociaux lisent déjà en quelque sorte dans nos pensées grâce aux fonctions d’appréciation et d’aversion, aux algorithmes et aux textes prédictifs.

Mais les progrès des neurotechnologies – exploitant une connexion directe au cerveau – offriraient des incursions plus précises. Elles seraient par conséquent potentiellement dangereuses dans un domaine jusqu’ici privé.

Les craintes concernant les neurosciences axées sur l’armée, appelées la sixième dimension de la guerre, ne sont pas nouvelles.

Depuis les années 1970, la Defense Advanced Research Projects Agency (Darpa) finance la recherche sur le cerveau. Par ailleurs, le secteur militaire cherche à développer des technologies pour augmenter les capacités des soldats.

François du Cluzel, chef de projet au Nato Act Innovation Hub, a publié en novembre 2020 un rapport intitulé Cognitive Warfare qui « ne se limite pas au monde militaire ou institutionnel. »

En effet, depuis le début des années 1990, cette capacité tend à s’appliquer aux domaines politique, économique, culturel et sociétal.

D’autre part, le gouvernement américain a dressé une liste noire des instituts et entreprises chinois qui, selon lui, travaillent sur de dangereux « processus biotechnologiques pour soutenir les utilisations finales militaires chinoises ». Ces organismes seraient également en train de développer « de prétendues armes de contrôle du cerveau ».

Législation sur les droits du cerveau

Selon Nathan Beauchamp-Mustafaga, analyste politique à la Rand Corporation et auteur du China Brief, nous pourrions assister à une « évolution de la guerre, passant des domaines naturels et matériels – terrestre, maritime, aérien et électromagnétique – au domaine de l’esprit humain. »

Les sociétés doivent prendre des mesures plus importantes que de s’attaquer à la guerre cognitive ou interdire TikTok.

Il est nécessaire d’instaurer une législation en rapport avec les droits du cerveau et les libertés cognitives, estime Farahany. Parallèlement, il faut sensibiliser le public aux risques d’intrusion des plateformes numériques intégrées.

Des lois sur les « droits neurologiques », protégeant l’utilisation des données biométriques dans les contextes sanitaires et juridiques, sont en cours d’élaboration. Il y a deux ans, le Chili est devenu le premier pays à ajouter des articles dans sa constitution pour aborder explicitement les défis des neurotechnologies émergentes. Le Wisconsin a également adopté des lois sur la collecte de données biométriques du cerveau.

La plupart des protections juridiques concernent la divulgation de la collecte de données cérébrales, et non les droits neuro eux-mêmes.

Farahany explique qu’il n’existe pas actuellement de liberté cognitive. Selon elle, cette liberté cognitive concerne également d’autres champs que les neurotechnologies. Elle concerne également l’autodétermination de notre cerveau et de nos expériences mentales s’appliquant à tant de technologies numériques actuelles.

« La vision dystopique d’Orwell du crime de pensée deviendra-t-elle une réalité moderne ? », s’interroge la scientifique.

La réponse pourrait être oui, non ou peut-être. Néanmoins, peu importe le futur, il est urgent d’établir des protections formelles du cerveau, fait valoir Farahany.

« La liberté cognitive intègre une conversation beaucoup plus large et urgente compte tenu de tout ce qui se passe déjà et de la précision importante avec laquelle cela se produira au sein de la neurotechnologie. »