Au mois d’avril, je concluais de manière prémonitoire mes articles sur les technologies deep fake et deep fake audio (que je vous conseille bien entendu de lire) en prenant le pari qu’une opération de manipulation de l’opinion de grande ampleur avec des fake photos ou vidéos aurait lieu dans les 2 ans à venir. L’affaire des fake photos des enfants migrants séparés de leurs parents aux Etats Unis est de ce point de vue édifiante. Je vous propose d’y revenir après quelques jours de recul. Dans le même temps, Photoshop annonce le développement d’un outil de diagnostic des fake photos. Bonne nouvelle le pyromane a décidé de devenir pompier.
La fin justifie les moyens : on attribue ce proverbe à Machiavel. Pour la réalisation d’un projet, tous les moyens sont bons. C’est la réussite à tout prix, sans scrupule voire aux dépens d’autrui. C’est la ligne de conduite des tenants de la Realpolitik.
Victoire à la Pyrrhus : en 280 avant JC, le roi d’Epire Pyrrhus défit par deux fois les romains mais y perdit la majeure partie de son armée. Il s’écria : « Encore une autre victoire comme celle-là et je rentrerais seul en Épire! ». L’expression est passée à la postérité pour designer une victoire tellement coûteuse pour le vainqueur qu’elle prépare une future défaite.
TIME MAGAZINE MET LE FEU AU POUDRE
C’est l’histoire d’une photo qui va faire reculer Donald Trump. Cette photo montre Yanela une petite fille hondurienne de deux ans en pleurs. Elle vient conformément aux derniers décrets anti-immigration de l’administration Trump d’être séparée brutalement de sa mère par la police des frontières américaines (ICE immigration and customs enforcement). Cette photo a été prise par un photographe de renom John Moore, lauréat du prix Pulitzer, supposé gage de crédibilité. Elle va immédiatement faire le buzz et être reprise par le magazine Time en couverture. Sur un fond rouge sang, Time transforme la photo en un glaçant face à face entre Yanela et Trump.
L’indignation monte alors brutalement dans l’opinion publique américaine. Même le camp Trump se fracture. Melania et Ivanka Trump prennent leurs distances par rapport à la mesure de Donald Trump. Face à la pression des médias et la compassion de l’opinion, Donald Trump l’inflexible recule et signe un nouveau décret interdisant la séparation des familles. Cette photo aura eu plus d’effet que tous les appels à l’humanité. Seul problème dans cette belle histoire, cette photo (comme les deux principales autres qui ont nourri le bruit médiatique) était une fausse, une fake photo. La petite fille en larmes était bien apeurée devant les agents de ICE mais n’a jamais été séparée de sa mère.
CAUSE NOBLE MAIS FAKE PHOTOS MONTAGE
La cause était noble. Le photographe était reconnu. Mais la photo ou plutôt son contexte était faux. Donald Trump a cédé. Les ONG américaines se sont bruyamment réjouies. La supercherie avait permis d’obtenir la victoire. La fin justifie-t-elle les moyens? En cette période de bac, vous avez 4 heures… Cette réussite à tout prix, sans scrupule, c’est justement la marque de fabrique de Trump. Je prévois un retour de bâton suite à cet épisode. Une nouvelle digue a sauté et Trump utilisera sans hésitation les fake photos pour ses propres desseins. Ces ONG ont piétiné leurs principes pour une victoire à la Pyrrhus. Elles s’en mordront les doigts.
PHOTOSHOP INVENTE UN DÉTECTEUR DE FAKE PHOTOS
Seul point positif de cette affaire, la vérité sur ces fake photos est apparue très rapidement, certes encore un peu tard par rapport à l’hyperréactivité des réseaux sociaux. On voit bien que la société se vaccine progressivement contre le fake. Seul hic, les technologies comme le deep fake semblent progresser encore plus vite. Mais bonne nouvelle dans l’actualité de la semaine, Photoshop vient d’annoncer le développement d’un système utilisant l’intelligence artificielle qui permet d’identifier les fakes photos en détectant les retouches d’images.
Cette nouvelle est surprenante. Photoshop est le leader incontesté de la retouche photo, l’outil favori des créateurs de fake photos. Le verbe photoshoper est devenu synonyme de retraitement d’image. Devant l’ampleur prise par les fake photos, Adobe l’éditeur de Photoshop a jugé qu’il était de son devoir de contribuer à enrayer cette épidémie. Grâce au machine learning, son système permet de détecter quand deux images sont combinées (splicing), l’insertion ou la suppression d’un objet dans une photo (copy move). Vous pourrez ainsi détecter les photos générées par des applis comme FaceApp. On ignore si à ce stade le système permet également de détecter les retouches faites directement par la chirurgie!!! En tout cas, Kim Kardashian a du souci à se faire. Elle est dans le radar de Photoshop.
Ce système est encore à l’état de recherche mais il ouvre de nouvelles perspectives dans la lutte contre le fléau des fake photos. Adobe évoque notamment les possibilités de collaboration avec les réseaux sociaux. La technologie vient cette fois à la rescousse du vrai et pas des fake news. La course est lancée, en attendant le prochain scandale….
Mise à jour du 06/10/2018 : Google Deepmind capable de générer des vraies fake photos de n’importe quel animal ou objet
L’intelligence artificielle de Google Deepmind est désormais capable de générer des photos hyper-réalistes de n’importe quel objet ou animal n’ayant jamais existé. Elle utilise pour cela deux réseaux neuronaux de deep learning qui travaillent en parallèle : l’un crée l’image, l’autre la confronte à des images réelles pour juger de son réalisme. La puissance de calcul demandée est colossale rendant ces travaux expérimentaux. Un pas de plus vient d’être réalisé pour la génération à l’avenir de fake photos indétectables.
Mise à jour du 28/10/2018 : le retour de bâton de l’affaire Yanela
Une caravane d’environ 7000 migrants partie du Honduras agite le débat électoral des élections mid-terms américains. Ils n’arriveront pas au plus tôt avant un mois et demi à la frontière américaine bien après les élections (si jamais ils y arrivent à jour). L’occasion était trop belle pour Donald Trump qui a décidé de mobiliser immédiatement l’armée face à cette « urgence nationale ». Le retour de bâton de l’affaire Yanela n’aura pas tardé…
Mise à jour du 25/08/2019 : des fake photos pour illustrer les incendies en Amazonie
Le monde entier s’indigne à juste titre en ce mois d’août sur la recrudescence des incendies en Amazonie. Le président brésilien Bolsonaro est accusé par sa politique productiviste en Amazonie d’avoir encouragé les incendiaires. Cela transparaît bien entendu sur les réseaux sociaux. Le hashtag #PrayForAmazonas est l’un des plus utilisés ces derniers jours sur Twitter avec à l’appui de terribles photos.
Problème : la plupart de ces photos sont des fake photos. L’image d’un singe enlaçant son bébé, apparemment mort brûlé, a été l’une des plus virales. Mais elle a été prise à Jabalpur en Inde par le photographe indien Avinash Lodhi. La photo accompagnant le tweet d’Emmanuel Macron sur le sujet date a été prise par un photographe décédé en 2003… La cause est juste mais ne justifie pas l’utilisation de n’importe quelle propagande pour en faire parler.
