Comment la technologie ruine notre sens moral

Les distractions numériques, les smartphones et la technologie en général ont des conséquences désastreuses sur notre capacité d’attention.

Il se pourrait en outre qu’elle nous rende moins empathique et moins enclin à l’action éthique.

La technologie fait du monde un spectacle

Selon un rapport commandité par le gouvernement canadien, lorsque l’expérience du monde est médiatisée au travers des smartphones, l’utilisateur se concentre davantage sur la capture d’un spectacle. Il cherche en effet ainsi à obtenir une réaction instantanée à ses clichés et séquences vidéo sur les réseaux sociaux.

Ainsi, il n’est pas rare que sur le site d’une tragédie telle qu’un accident ou un homicide, les téléphones portables viennent court-circuiter la décence humaine.

« Et si ces avancées technologiques dégradaient en fait notre capacité d’attention morale ? », s’interroge la chroniqueuse du site Vox, Sigal Samuel.

L’attention morale est notre capacité à distinguer les caractéristiques moralement essentielles d’une situation donnée afin de pouvoir réagir de manière appropriée. De nombreuses études ont suggéré que la technologie numérique raccourcissait notre capacité d’attention et nous rendait plus distraits.

Les preuves indiquant que nos smartphones ont véritablement cet impact négatif ne manquent pas. Il s’avère ainsi que les entreprises technologiques continuent d’intégrer, au sein de leurs produits, des éléments qui amplifient cet effet néfaste. Des éléments de conception qui nous empêchent de porter notre attention de manière ininterrompue sur les choses importantes.

« Les entreprises technologiques agissent de la sorte même s’il devient de plus en plus évident que cela a des conséquences négatives sur nos relations interpersonnelles individuelles et même sur la politique. Ce n’est pas un hasard si l’ancien président américain Barack Obama a déclaré qu’Internet et les médias sociaux constituaient la plus grande menace pour la démocratie », écrit Samuel.

Technologie et attention morale

Le principe d’attention morale remontre au moins à la Grèce antique. À cette époque, les Stoïciens estiment que la pratique de l’attention qu’ils nomment « prosoché » est la pierre angulaire d’une bonne vie spirituelle. Dans la pensée occidentale moderne, les éthiciens ne se sont cependant pas trop concentrés sur l’attention jusqu’à l’arrivée de femmes philosophes. Parmi celles-ci, la plus connue est certainement Simone Weill.

Philosophe et mystique chrétienne française du début du 20^ème siècle, Weill considérait que l’attention est la forme de générosité la plus rare et la plus pure. Selon elle, pour être capable de prêter attention à quelqu’un d’autre, afin de devenir pleinement réceptif à sa situation dans toute sa complexité, il faut d’abord se mettre à l’écart.

Weill nomme ce processus la « décréation ». Selon ce principe, l’attention consiste à suspendre notre pensée afin que celle-ci soit prête à recevoir dans sa vérité nue l’objet qui doit la pénétrer. Pour Weill, l’attention ordinaire est une condition préalable à l’attention morale, elle-même condition préalable à l’empathie, à son tour condition préalable à l’éthique.

Des philosophes ultérieurs, comme Iris Murdoch et Martha Nussbaum, ont repris et développé les idées de Weil. Ils les ont vêtus du langage de la philosophie occidentale. Murdoch, par exemple, fait appel à Platon lorsqu’elle écrit sur le besoin de « se désintéresser ». Mais cette idée centrale de «désintéressement» ou de «décréation» rappelle peut-être encore plus les traditions orientales comme le bouddhisme. Celui-ci a longtemps souligné l’importance d’abandonner notre ego et d’entraîner notre attention pour pouvoir percevoir et répondre aux besoins des autres.

La technologie comme antithèse du vide

« Mais l’idée selon laquelle vous devriez vous entraîner à vous vider pour devenir réceptif à autrui est antithétique à la technologie numérique actuelle », avertit Beverley McGuire, historienne des religions à l’Université de Caroline du Nord à Wilmington, autrice de recherches sur l’attention morale. « Se décréer soi-même est le contraire des médias sociaux », ajoute-t-elle.

Des plateformes sociales telles que Facebook, Instagram et autres sont toutes axées sur la construction de l’identité. Sur celles-ci, les utilisateurs édifient une version ambitieuse d’eux-mêmes. Ils ajoutent à cette version chaque fois plus de mots, d’images et de vidéos, le tout se transformant en marque, explique l’historienne.

Durant la dernière décennie, une kyrielle de psychologues ont mené plusieurs études pour explorer comment les personnes utilisent les médias sociaux et la manière dont cet usage affecte leur santé mentale. Ils ont découvert que les médias sociaux poussent les utilisateurs à se comparer aux autres. Cette comparaison de type sociale est intégrée au sein-même de la conception de ces plateformes sociales.

« Au lieu de nous aider à nous débarrasser de nous-mêmes afin que nous puissions vraiment nous occuper des autres, ces plates-formes nous encouragent à créer des moi plus épais et à les consolider – défensivement, de manière compétitive – contre d’autres moi perçus comme mieux lotis », écrit Samuel.

Même la conception du courrier électronique comme Gmail est pensée pour combler chez nous un manque de curiosité, explique Tristan Harris, ancien éthicien du design chez Google. Harris dirige aujourd’hui le Center for Humane Technology, organisation qui vise à réaligner la technologie avec les meilleurs intérêts de l’humanité.

Technologie persuasive

Pour accaparer notre attention, les concepteurs de la Silicon Valley ont étudié toute une série d’astuces de « technologie de persuasion ». Ils les ont intégrées dans presque tous leurs produits. On retrouve ces astuces dans les achats en un clic d’Amazon au fil d’actualités de Facebook en passant par l’algorithme de recommandation de vidéos de YouTube.

La plupart du temps, l’objectif de la technologie persuasive est de nous faire dépenser de l’argent. Mais souvent, elle consiste uniquement à nous faire visionner et défiler le fil d’actualité d’une plateforme le plus longtemps possible. C’est comme cela qu’elle gagne de l’argent, non pas en nous vendant un produit précis, mais en monétisant notre attention pour les annonceurs publicitaires.

« Les êtres humains détournent naturellement leur attention des stimuli inconfortables ou douloureux comme une crise de santé », ajoute Harris. « Et maintenant, avec des notifications qui nous parviennent toutes parts, il n’a jamais été aussi facile d’avoir une excuse pour atténuer ou délaisser un stimulus inconfortable. »

La technologie érode notre faculté d’empathie

Nombre de ces astuces sont inspirées des enseignements de BJ Fogg, spécialiste des sciences sociales, fondateur en 1998 du Stanford Persuasive Technology Lab. Cet organisme enseigne aux entrepreneurs en herbe comment modifier le comportement humain via la technologie.

De nombreux designers haut placés chez Facebook, Instagram et Google (y compris Harris) sont passés par les célèbres cours de Fogg. Plus récemment, les technologues ont codifié ces leçons dans des ouvrages qui enseignent la manière de rendre addictif un produit.

Ces enseignements aboutissent à ce qu’Harris nomme le « déclassement humain ». Selon celui-ci, il existe des preuves évidentes que la technologie numérique érode notre attention, ce qui érode notre attention morale, érodant à son tour notre empathie.

Preuves scientifiques

En 2010, des psychologues de l’Université du Michigan ont analysé l72 études sur les niveaux d’empathie d’étudiants universitaires américains pendant 30 ans. Ils ont constaté une baisse de plus de 40 % de l’empathie parmi les étudiants. La majeure partie de ce déclin s’est produite après 2000, décennie au cours de laquelle Facebook, Twitter et YouTube ont véritablement décollé.

En 2014, des psychologues californiens ont étudié des enfants dans un camp en plein air sans que ceux-ci aient accès à un smartphone. Après cinq jours sans leur téléphone, les enfants lisaient avec précision les expressions faciales et les émotions des personnes bien mieux qu’un groupe témoin d’enfants.

Selon une enquête du Pew Research Center de 2015, 89 % des répondants américains ont admis avoir sorti leur téléphone lors de leur dernière interaction sociale. De plus, 82 % ont déclaré que cela détériorait la conversation et réduisait le lien empathique ressenti envers les autres personnes présentes.

« Mais ce qui est encore plus déconcertant, c’est que nos appareils provoquent notre déconnexion même lorsque nous ne les utilisons pas », explique la journaliste de Vox.

« Des études de conversation, en laboratoire et en milieu naturel, montrent que lorsque deux personnes parlent, la simple présence d’un téléphone sur une table ou à la périphérie de leur vision modifie à la fois ce dont elles parlent et leur degré de connexion. Les personnes maintiennent la conversation sur des sujets pour lesquels elles ne craignent pas d’être interrompus », explique la sociologue du Massachusetts Institute of Technology (MIT) Sherry Turkle, qui étudie les effets néfastes de la technologie sur le comportement social.

« Nous visons le cauchemar de Simone Weil », avance Samuel.

Ecosystèmes d’information distincts et bulle idéologique

La technologie numérique n’érode pas seulement notre attention. Elle la divise et redirige également vers des écosystèmes d’informations distincts. Par conséquent, les nouvelles que vous voyez sont différentes de celles que voit votre grand-mère, par exemple. Et cela a des effets profonds sur ce que chacun de nous finit par considérer comme moralement essentiel.

Lors de la dernière élection présidentielle américaine, alors que Trump accumulait des millions de voix, de nombreux libéraux se demandaient avec incrédulité comment près de la moitié de l’électorat pouvait voter pour un homme qui avait mis des enfants dans des cages, permis une pandémie ayant tué des milliers d’Américains.

« Vous vous dites : « Oh, mon dieu, comment peuvent-ils être aussi stupides ? Ne voient-ils pas les mêmes informations que moi ?’ », dáclare Harris. « Et la réponse est non, ils ne voient pas la même chose. »

Les électeurs de Trump ont vu une version de la réalité très différente des autres au cours des quatre dernières années. Leurs comptes Facebook, Twitter, YouTube et autres leur ont alimenté d’innombrables histoires sur la façon dont les démocrates sont « tordus », « fous » ou carrément « sataniques ».

« Ces plates-formes ont permis de garantir qu’un utilisateur qui cliquerait sur l’une de ces histoires serait conduit dans un terrier de lapin où il serait confronté à de plus en plus de récits similaires. »

Les différents flux des réseaux sociaux

Supposons que les utilisateurs puissent choisir entre deux types de flux Facebook. Le premier flux présente constamment une vision plus complexe et plus difficile de la réalité. Le deuxième, par contre, présente constamment plus de raisons pour lesquelles les utilisateurs ont raison et l’autre partie a tort. Lequel préféreraient-ils ?

La plupart préféreraient le deuxième flux, nommés par les technologues « flux d’affirmation ». Il s’agit d’une option plus efficace pour le modèle commercial de l’entreprise que le premier flux (le « flux de confrontation »), explique Harris.

« Les sociétés de médias sociaux donnent aux utilisateurs ce qu’ils ont déjà indiqué aimer. Ils maintiennent ainsi leur attention le plus longtemps possible. Plus ils peuvent garder les yeux des utilisateurs rivés sur la plate-forme, plus ils sont payés par leurs annonceurs. Cela signifie que les entreprises réalisent des profits en mettant chacun de nous dans sa propre bulle idéologique. »

Le modèle économique déplace notre attention collective sur certaines histoires à l’exclusion d’autres. En conséquence, nous devenons de plus en plus convaincus que nous sommes bons et que l’autre côté est mauvais. Nous devenons moins empathiques pour ce que l’autre partie a pu vivre.

En d’autres termes, en rétrécissant notre attention, le modèle économique finit également par rétrécir notre attention morale. Notre capacité morale est notre capacité à voir qu’il peut y avoir d’autres perspectives qui comptent moralement.

Conséquences catastrophiques

Les conséquences de ces pratiques peuvent être dramatiques. Le Myanmar offre un exemple tragique. Il y a quelques années, des utilisateurs de Facebook ont ​​utilisé la plate-forme pour inciter à la violence contre les Rohingyas, un groupe minoritaire majoritairement musulman dans ce pays à majorité bouddhiste.

Les mèmes autorisés au partage par Facebook sur sa plate-forme ont vilipendé les Rohingyas. Ces publications les présentaient comme des immigrants illégaux qui nuisaient aux bouddhistes locaux. Grâce à l’algorithme Facebook, ces messages ont été partagés d’innombrables fois. Cela à attirer l’attention des utilisateurs sur une vision de plus en plus étroite et sombre des Rohingyas. La plateforme, de son propre aveu, n’a pas fait assez pour rediriger l’attention des utilisateurs vers des sources qui remettraient en cause ce point de vue. L’empathie a diminué et la haine grandit.

En 2017, des milliers de Rohingyas ont été tués, des centaines de villages ont été réduits en cendres et des centaines de milliers ont été contraints à l’exode. Selon les Nations Unies, il s’agit d’ « un exemple classique de nettoyage ethnique ».

Ces dernières années, les médias sociaux ont donné un coup de pouce aux politiciens autoritaires. En leur offrant une vaste plate-forme où ils peuvent diaboliser un groupe minoritaire ou une autre « menace », les médias sociaux leur permettent d’alimenter les émotions négatives d’une population comme la colère et la peur. Cette population se ralliera ensuite aux populistes pour se protéger.

« Les émotions négatives durent plus longtemps et se propagent plus rapidement », explique Harris. « C’est pourquoi le négatif a tendance à l’emporter sur le positif, à moins que les entreprises de médias sociaux ne prennent des mesures concertées pour arrêter la propagation des discours de haine ou de désinformation.

Mais même en ce qui concerne les élections américaines de 2020, auxquelles elles ont eu amplement le temps de se préparer, leur action est arrivée trop tard, estiment les analystes.

Critiques envers les détracteurs de la technologie

Les personnes détractrices de la technologie numérique sont souvent confrontées à des critiques courantes. La première est la suivante : ce n’est pas la faute des entreprises technologiques. Il est de la responsabilité des utilisateurs de gérer leur propre consommation.

Cette critique serait juste s’il existait un pouvoir symétrique entre les utilisateurs et les entreprises technologiques. Mais les entreprises nous comprennent mieux que nous ne les comprenons ou que nous nous comprenons nous-mêmes. Leurs superordinateurs testent précisément quelles couleurs, quels sons et quels autres éléments de conception exploitent le mieux nos faiblesses psychologiques afin de maintenir notre attention.

« Comparé à leur intelligence artificielle, nous sommes tous des enfants. Et les enfants ont besoin de protection », précise Harris.

Selon une autre critique, la technologie a peut-être créé des problèmes mais elle peut les résoudre. Certaines voix se demandent pourquoi nous ne construisons pas une technologie qui améliore l’attention morale.

Applications morales

Jusqu’à présent, une grande partie de l’intervention dans la sphère numérique pour améliorer l’attention morale n’a pas si bien fonctionné, explique Tenzin Priyadarshi, directeur du Dalai Lama Center for Ethics and Transformative Values ​​au MIT.

Ce n’est pas faute d’avoir essayé. Priyadarshi et les designers affiliés au centre ont essayé de créer une application, 20 Day Stranger, qui fournit des mises à jour continues sur ce que fait et ressent une autre personne. L’idée est que cette connexion anonyme mais intime pourrait vous rendre plus curieux ou empathique envers les étrangers que vous croisez chaque jour.

Ils ont également conçu une application appelée Mitra. Inspirée des notions bouddhistes, cette application vous invite à identifier vos valeurs fondamentales et à suivre à quel point vous avez agi en accord avec elles chaque jour.

Notifications, récompense et gamification des succès

« J’ai essayé cette application, en choisissant la famille, la gentillesse et la créativité comme les trois valeurs que je voulais suivre. Pendant quelques jours, ça a très bien fonctionné », explique Siga Samuel.

« Mais malgré mon enthousiasme initial, j’ai vite oublié l’application. Elle ne m’a pas envoyé de notifications me rappelant de me connecter chaque jour. Je n’ai pas été félicité lorsque j’ai réalisé une séquence de plusieurs jours consécutifs. Elle n’a pas « gamifié » mes succès en me récompensant avec des points, des badges, des autocollants ou des gifs d’animaux, tarif standard dans les applications de modification du comportement de nos jours. »

En 2019, une étude formelle a été menée sur des étudiants invités à utiliser Mitra. On a découvert que bien que l’application ait augmenté leur attention morale dans une certaine mesure, aucun d’entre eux n’a dit qu’il continuerait à l’utiliser au-delà de l’étude.

« Ils sont tellement habitués aux applications qui manipulent leur attention et les attirent d’une certaine manière que lorsqu’ils utilisent des applications intentionnellement conçues pour ne pas le faire, ils les trouvent ennuyeuses », ont déclaré les scientifiques.

Plateformes sociales alternatives

Selon Priyadarshi, le « manque de fonctionnalités addictives » explique en partie pourquoi les nouveaux réseaux sociaux conçus comme des alternatives plus éthiques à Facebook et Twitter – comme Ello, Diaspora ou App.net – ne parviennent jamais à soustraire beaucoup de personnes des grandes plates-formes.

Il travaille donc à concevoir une technologie qui améliore l’attention morale des personnes sur les plateformes où ils passent déjà du temps. Inspiré par les publicités contextuelles sur les navigateurs, il souhaite que les utilisateurs puissent intégrer un plug-in qui parsème périodiquement leurs flux de bons coups de pouce comportementaux.

Cela semble bien, mais on constate un fait déprimant : des entreprises telles que Facebook ont ​​trouvé une stratégie gagnante pour monopoliser notre attention. Les technologues ne peuvent pas convertir les personnes à moins qu’elles ne soient prêtes à utiliser les mêmes astuces nuisibles que Facebook. Selon certains penseurs, cela va à l’encontre de l’objectif.

Cela soulève une question fondamentale. Puisqu’attirer notre attention de manière manipulatrice fait partie du succès de Facebook, si nous lui demandons de moins attirer notre attention, cela l’oblige-t-il à renoncer à une partie de ses bénéfices ?

« Oui, ils devraient vraiment le faire », explique Harris. « C’est là que ça devient inconfortable, car nous réalisons que toute notre économie est liée à cela. Plus de temps sur ces plateformes équivaut à plus d’argent, donc si la chose saine pour la société était une utilisation moindre de Facebook et un type de Facebook très différent, ce n’est pas conforme au modèle économique et ces entreprises n’y adhèreront pas.»

En effet, elles n’y adhèrent pas du tout. Facebook a mené des expériences en 2020 pour voir si les publications jugées « mauvaises pour le monde » – comme la désinformation politique – pourraient être rétrogradées dans le fil d’actualité. Ils pouvaient le faire, mais à un prix : le nombre de fois où les personnes ont ouvert Facebook a diminué. L’entreprise a par conséquent abandonné l’approche.

Réglementation et autoréglementation

Il existe deux solutions face à cette situation : la régulation et l’auto-régulation.

Au niveau sociétal, il faut commencer par reconnaître que les Big Tech ne changeront probablement pas à moins que la loi ne les y oblige, ou qu’elles deviennent trop coûteuses (financièrement ou en réputation) pour ne pas changer.

« Une chose que nous pouvons faire en tant que citoyens est d’exiger une réforme de la technologie. Nous pouvons y arriver en faisant pression sur les leaders technologiques. Pendant ce temps, les experts en politique technologique peuvent faire pression pour de nouvelles réglementations. Celles-ci devront modifier les incitations des Big Tech en punissant les comportements indésirables. On peut forcer les plateformes à payer pour les dommages qu’elles infligent à la société et récompenser les comportements humains.

Comme l’historien Tim Wu l’a relaté dans son livre The Attention Merchants, nous avons des raisons d’espérer une approche réglementaire. Dans le passé, lorsque les personnes sentaient qu’une nouvelle invention devenait particulièrement distrayante, ils lançaient des contre-mouvements. Lorsque des affiches lithographiques colorées sont apparues dans la France du 19^ème siècle, remplissant soudainement l’environnement urbain, les Parisiens sont devenus dégoûtés par les publicités. Ils ont promulgué des lois pour limiter les endroits où les affiches peuvent être plaquardées. Ces règlements sont toujours en vigueur aujourd’hui.

Réforme de la technologie

Changer le paysage réglementaire est crucial. En effet, l’individu ne peut pas résister à des mécanismes conçus pour être incroyablement irrésistibles. Cependant, nous ne pouvons pas simplement attendre que les lois nous sauvent. Selon Priyadarshi, la technologie numérique évolue trop vite pour cela.

« Au moment où les décideurs politiques et les législateurs proposent des mécanismes de réglementation, la technologie a pris 10 ans d’avance. Ils sont toujours en train de rattraper leur retard. »

Ainsi, même si nous cherchons à réguler les Big Tech, nous les citoyens devons apprendre à nous autoréguler et à entraîner notre attention du mieux que nous pouvons.

Dans son livre How to Do Nothing, Jenny Odell exhorte le lecteur à essayer la « résistance en place ».

« Un véritable retrait d’attention se produit d’abord et avant tout dans l’esprit », écrit-elle. « Ce qu’il faut donc, ce n’est pas un arrêt définitif de la technologie mais une formation continue : la capacité non seulement de détourner l’attention, mais de l’investir ailleurs, de l’élargir et de la faire proliférer, d’améliorer son acuité. »