Une IA déniche les deepfakes et remonte à leurs sources

Le réseau social Facebook a présenté une nouvelle fonctionnalité de détection de ce qu’on appelle les deepfakes. Se basant sur l’IA, une telle fonction n’offre pas uniquement la possibilité de la séparation des faux clichés des réels. En effet, l’outil permet la déduction des réglages présents dans leur génération afin d’en analyser la source.

Depuis des années, l’IA a permis d’effectuer des progressions dans l’univers de la santé, de la recherche et de l’industrie. Néanmoins, l’intelligence artificielle a également des côtés plus sombres. Ainsi, elle peut être utile dans des buts de désinformation ou même pire : pour commettre des délits et des crimes.

À l’heure actuelle, ce qu’on appelle les deepfakes s’optimisent de façon régulière. Il n’est ainsi guère étonnant que nous ne parvenons plus à voir le vrai du faux. L’utilisation de ces faux clichés et de ces fausses vidéos se fait par rapport à de la désinformation puisqu’elles offrent la possibilité de calquer sur des individus des actions ou paroles totalement imaginaires. Afin de combattre cela, le géant Facebook a offert ces services à une université.

Outil de détection d’un nouveau type

Il y a déjà des fonctions se basant sur l’IA pouvant dénicher les traces engendrées par des modèles de génération de deepfakes réputés. Néanmoins, le nombre de modèles est en hausse et de façon régulière, restreignant l’utilité de ces fonctionnalités de détection.

Celui pensé et conçu par Facebook se sert de la rétro-ingénierie afin de revenir à la source du cliché. La fonctionnalité se base sur l’empreinte digitale du cliché laissé par le modèle présent. En effectuant une génération de cette dernière, des modèles inédits peuvent être dénichés.

Identification possible des campagnes de désinformation

Lorsque l’empreinte est définie, la fonctionnalité peut distinguer des réglages présents dans la génération du deepfake, tels que par exemple le nombre de blocs et le genre d’opérations dans chaque bloc. Il conçoit par conséquent une représentation du modèle, même si cette dernière se révèle être nouvelle.

Cette progression ne se restreint pas à l’unique détection des deepfakes. En se basant sur cette représentation, la fonction peut effectuer une comparaison d’une liste de clichés afin de définir s’ils émanent de la même source. Cette fonction offrira la possibilité par exemple aux réseaux sociaux de vite dénicher une campagne de désinformation.

L’exemple de Tom Cruise

Les vidéos « deepfake » avec le célèbre acteur américain Tom Cruise sur le réseau social TikTok sont plutôt amusantes. Or, elles sont la preuve directe qu’on a de plus en plus de mal à voir si une vidéo est fausse ou non. Malgré le fait qu’il y ait des fonctionnalités puissantes se basant sur l’IA afin de dénicher les fausses vidéos, il est la plupart du temps trop tard pour le grand public qui s’est déjà fait avoir.

Cette vidéo, vous en avez certainement entendu parlé : on y aperçoit Tom Cruise faire un tour de magie au moyen d’une simple pièce de monnaie. En plus, ce dernier a intégré cette vidéo pour ses fans sur les réseaux sociaux. Or, ce n’est pas lui ! En effet, le compte concerné se nomme DeepTomCruise, et sur le réseau social TikTok, il a fait grand bruit en montrant qu’on a de plus en plus de mal à distinguer le vrai du faux. En 2021, le deepfake semble malheureusement avoir pris de l’avance sur nous !