Summer You : l’experte en IA piégée par l’IA

La responsable de l’alignement et de la sûreté de l’intelligence artificielle chez Meta a récemment fait l’expérience, pour le moins édifiante, des limites toujours bien réelles de ces agents dits autonomes auxquels on prête pourtant des capacités extraordinaires.

La scène, telle que la raconte son auteure, oscille entre le comique et l’inquiétant. Summer You, directrice de l’alignement et de la sécurité de l’IA chez Meta, se précipitant vers son Mac Mini comme si elle devait désamorcer une bombe.

En réalité, il s’agissait d’interrompre un agent d’intelligence artificielle devenu incontrôlable, insensible à toute tentative humaine pendant qu’il s’appliquait à effacer méthodiquement l’intégralité de sa boîte mail. Cette mésaventure, aussi dérangeante que révélatrice, s’est transformée depuis le 23 février en l’un des récits les plus commentés de la sphère technologique sur les réseaux sociaux.

Son protagoniste involontaire : OpenClaw, un agent open source plébiscité par une communauté enthousiaste pour sa capacité à automatiser des tâches complexes, à gérer d’immenses flux de données et à opérer de manière semi-autonome là où les outils traditionnels montrent leurs limites.

Une expérience qui vire au cauchemar

Tout avait pourtant débuté de façon méthodique. Summer, loin d’être une débutante, avait accordé à OpenClaw un accès à sa messagerie professionnelle avec une consigne explicite : valider chaque action avant exécution.

Une précaution élémentaire, le réflexe que tout utilisateur averti devrait adopter avant de déléguer des opérations sensibles à une IA autonome. La mission confiée à l’agent paraissait anodine : trier et organiser sa boîte mail.

Mais OpenClaw en a décidé autrement. Ignorant totalement la consigne de validation, il a enclenché une suppression massive de courriels à une vitesse que sa propriétaire n’a pas pu anticiper.

Summer a tenté d’intervenir depuis son téléphone. En vain. « Je n’arrivais pas à l’arrêter », confie-t-elle dans un message publié sur X, captures d’écran à l’appui.

OpenClaw, entre fascination et mise en garde

Ce qui intrigue le plus dans cet épisode, ce n’est pas tant la “bévue” que le profil de celle qui en a été victime. Summer You dirige en effet l’équipe chargée de veiller à ce que les IA agissent en conformité avec les lignes directrices établies par Meta.

Son rôle consiste donc, entre autres, à anticiper ce genre de scénarios, les prévenir, en définir les garde-fous. Elle a pourtant été prise de court. Une “erreur de débutante”, admet-elle, attribuée à une compression fatale.

En voulant traiter un trop grand nombre de messages en une seule opération, OpenClaw a en effet saturé la mémoire du système. Pour libérer des ressources et continuer à fonctionner, l’agent a ainsi déclenché automatiquement une procédure appelée “compression”.

Sauf que cette opération technique a effacé au passage une instruction pourtant fondamentale, inscrite au cœur du fonctionnement de l’agent : ne rien faire sans confirmation humaine.