Vocageek #3 : Deepfake, faut-il en avoir peur ?
Voici notre troisième Vocageek avec cette fois un terme qui revient régulièrement dans l’actualité : deepfake. L’application chinoise Zao fait notamment parler en facilitant l’utilisation de cette technologie.
Les « deepfakes » sont des vidéos truquées dans lesquelles seuls les visages ont été modifiés, mais en gardant les intentions du visage. Appelé aussi hypertrucage ou permutation intelligente de visages (PIV, cette techniques de superposition d’images s’appuie sur des programmes d’intelligence artificielle. Depuis 2017, les deepfakes sont de plus en plus diffusés, notamment sur les réseaux sociaux.
Mais, les grands acteurs du numérique s’intéressent aussi à cette technologie. Ainsi, Samsung a été capable de simuler des mouvements de tête et de visage en partant d’une simple image fixe. C’est ainsi que l’on peut voir le visage de la Joconde bouger et ses yeux regarder dans différentes directions.
A lire aussi notre Vocageek #1 : quelle différence entre Internet et le web, un moteur de recherche et un navigateur ? et Vocageek #2 : c’est quoi l’obsolescence programmée ?
Zao, ou le deepfake dans ton smartphone
Zao est une application chinoise qui fait beaucoup parler d’elle en ce moment. Elle permet très facilement de créer des deepfakes en remplaçant les têtes de célébrités ou d’acteurs par ton propre visage. Pour que cela fonctionne, l’application demande de voir ton visage sous plusieurs angles. Tu dois aussi réaliser plusieurs expressions faciales (bouger la bouche, cligner des yeux). Ensuite, dès que ton visage est enregistrée, libre à toi de faire partie d’une scène de Titanic ou Game of Thrones.
Si Zao offre un résultat assez bluffant, elle a été également vivement critiquée. Ses conditions d’utilisation Zao stipulent que la société dispose de droits « gratuits, irrévocables, permanents, et transférables » sur tout le contenu généré. Autrement dit, ton visage peut être réutilisé dans n’importe quel contexte sans que cela te soit notifié. Bref, ton image ne t’appartient plus et tu ne peux plus la contrôler. C’est pourquoi nous conseillons de ne pas l’utiliser.
Les dangers du deepfake
Les technologies qui permettent le deepfake sont de plus en plus perfectionnées, mais aussi de plus en plus accessibles grâce à des applications grand public comme Zao. Il est alors de plus en plus difficile de savoir si le contenu présenté est satirique ou authentique. Le principal danger est de voir arriver le moment où les humains ne pourront plus déterminer si ce qui se trouve sur une vidéo correspond à la vérité. Quel sera alors la crédibilité d’une information vue sur les réseaux sociaux ?
Le deepfake inquiète aussi les géants du web. Ainsi, Facebook a annoncé le lancement du Deepfake Detection Challenge, qui doit rassembler des entreprises du numérique et des universités dans le but d’« encourager l’industrie » à créer de nouveaux outils de détection des vidéos truquées. L’objectif est de limiter la visibilité de vidéos qui pourraient influencer l’opinion public, notamment lors d’une élection. La lutte contre les fausses informations évolue, avec le phénomène du deepfake, en une bataille technologique.
Autre danger, l’usurpation d’identité en ligne sera de plus en plus facile. On peut craindre également des dérives sur les réseaux sociaux, notamment concernant le cyberharcèlement.
