Vidéo deep fake : 2 ans après la catastrophe n’a pas encore eu lieu

0 151

Février 2018, nous consacrions notre 1er article aux vidéos deep fake. La création de ces vraies-fausses vidéos générées par des algorithmes de deep learning d’intelligence artificielle venait de devenir accessible au grand public, ou plus exactement aux geeks utilisateurs de la plate-forme sociale Reddit. Cette communauté de mâles boutonneux se précipitait alors pour réaliser des fake porns, incrustant le visage de leur actrice préférée dans des films pornographiques. Une immense angoisse naissait. A l’heure des fake news, n’allions-nous pas rentrer dans une époque où avec l’intelligence artificielle et la vidéo deep fake, il deviendrait impossible de distinguer le faux du vrai? Un sujet qui inquiétait jusqu’au Pentagone! Alors 2 ans après, où en sommes-nous?

En mai, sérieuse alerte aux deepfakes avec l’affaire Pelosi

Mai 2019, une vidéo manipulée de la présidente démocrate de la chambre des représentants Nancy Pelosi circule sur les réseaux sociaux. On la voit balbutier son discours. Le débit de ses paroles a été modifié suivant la technique deep fake audio. Cela donne l’impression au spectateur qu’elle est ivre ou malade. Le sulfureux Rudolph Guliani ex-maire de New York et avocat de Donald Trump relaie cette vidéo sur Twitter. Elle fait immédiatement le buzz et réalise plusieurs millions de vues.

Rapidement les médias américains s’emparent de l’affaire et dénoncent la supercherie. Les réseaux sociaux notamment Facebook tergiversent mais finissent par retirer la vidéo. Le soufflet retombe et l’affaire n’a finalement a posteriori eu aucune influence sur la vie politique américaine. Mais les GAFAM ont senti le vent du boulet. Facebook, Twitter et Youtube ont vite compris qu’une manipulation politique de grande ampleur avec une vidéo deep fake serait potentiellement pour eux un poison mortel.

Facebook, Twitter et Youtube ont pris le taureau de la vidéo deep fake par les cornes

C’est ainsi que Facebook a annoncé début janvier à grand renfort de communication sa décision d’interdire les vidéos deepfake sur le réseau social. Seront désormais interdites les vidéos qui seraient manipulés “d’une façon qui n’est pas apparente pour une personne lambda et qui induiraient probablement quelqu’un  en erreur en lui faisant croire qu’un sujet de la vidéo a dit des mots qu’il n’a pas réellement prononcés ” et qui “seront le produit de l’intelligence artificielle ou du machine learning”. Une tolérance 0 au deep fake qui contraste singulièrement avec la décision de Facebook de continuer à diffuser des publicités politiques. La vidéo deep fake, elle, ne rapporte rien!!!

Youtube (Google) a également décidé de supprimer ces fausses informations. Quant à Twitter, il a décidé à compter de mars d’étiqueter les vidéos truquées repérées sur la plateforme avec un petit label précisant aux internautes que le contenu est trompeur. On le voit, la chasse aux deep fake est bien lancée.

Vidéo deep fake : la bataille technologique entre le glaive et le bouclier

deep fake / fake news / smartphone

Mais me direz-vous. Encore faut-il détecter rapidement une vidéo deep fake avant qu’elle ne se soit devenue virale. Sinon c’est trop tard, le mal est fait. Là aussi, Microsoft, Amazon et Facebook ont décidé d’agir en lançant en octobre dernier de Deepfake Detection Challenge (DFDC) en partenariat avec les plus grandes universités (Berkeley, MIT, Cornell, Oxford…).

Ce concours s’adresse aux développeurs de monde entier et est doté d’un prix de 1 million de dollars. Les organisateurs fournissent aux participants une base de données contenant 100.000 vidéos truquées avec l’intelligence artificielle. C’est avec des algorithmes qu’on combattra les algorithmes des deep fake. Résultat du concours au mois de mars.

Dans le même temps, la technologie deep fake a progressé mais pas aussi vite que prévue. Elle a certes continué à se démocratiser avec notamment l’appli chinoise Zao. Elle vous permettait de mettre votre visage sur le personnage de John Snow dans votre scène favorite de Game of Thrones.

Il demeure relativement long, fastidieux et complexe de réaliser une vidéo deep fake. Les journalistes de la rubrique Pixel du journal Le Monde s’y sont essayés. Ils voulaient mettre la tête d’Emmanuel Macron à la place de celle de Jean Dujardin dans la fameuse scène des hippies de OSS117. Ils racontent leur parcours du combattant dans un article au titre évocateur “on a essayé de fabriquer un deepfake et on est passé à autre chose”  : passionnant!!!

Pas de développement massif du deep fake mais une explosion du “cheap fake”

Si l’ère de la diffusion massive de deep fake prévu n’est pas encore arrivée, nous sommes bel et bien rentrés dans un monde de manipulation massive de l’image et de la vidéo. Les applications sur smartphone qui permettent de modifier votre visage grâce à l’intelligence artificielle cartonnent, à l’instar de l’appli russe FaceApp qui vous vieillit. Vos enfants passent un temps considérable à modifier photos et vidéos grâce aux fameux filtres Snapchat.

Ces manipulations d’image utilisent souvent l’intelligence artificielle mais sont beaucoup plus faciles à réaliser qu’une vidéo complète deep fake. La falsification est parfois grossière. Pourtant la masse de ces “cheap fake” est aujourd’hui une source considérable de fake news mais aussi d’excellentes satires humoristiques. Les censurer serait à la fois illusoire et une vraie atteinte à la liberté d’expression. Le fact checking par les journalistes progresse mais la lutte semble inégale.

Comme toujours en pareil cas, c’est l’éducation qui fera la différence. La bataille sera mondiale. En Afrique, comme l’explique cet article de l’agence d’informations Ecofin Hebdo, l’impact potentiel de ces nouvelles formes de désinformation “pourrait causer de gros dégâts dans des pays où la culture numérique est encore très faible pour distinguer le vrai du faux.” 

L’élection américaine sera un test de notre maturité face aux manipulations d’image

Le déferlement de deep fake n’a donc pas encore eu lieu. Cela a donné du temps à nos sociétés pour commencer à se vacciner. Pouvoirs publics et GAFAM ont pris le sujet très au sérieux et les réseaux sociaux ont montré une certaine capacité d’auto-régulation. Tout cela est plutôt rassurant. Mais la technologie va continuer à se démocratiser. Google travaille avec AutoML à des outils permettant à des non experts de créer facilement des réseaux de neurones. La tentation de manipulation de l’information restera forte. Le flot de deep fake finira par arriver. L’élection américaine qui se profile sera un moment de vérité. Les dollars y foisonnent, l’enjeu est colossal, tous les coups sont permis. Elles sera un bon test de l’efficacité du vaccin anti-deep fake que nous avons ingéré par petites doses depuis 2 ans.

Laisser un commentaire

Votre adresse email ne sera pas publiée.

Nous utilisons des cookies pour vous garantir la meilleure expérience sur notre site. Si vous continuez à utiliser ce dernier, nous considérerons que vous acceptez l'utilisation des cookies. Accepter Consulter

Centre de préférences de confidentialité

Cookies

Publicités

Analytics

Other