Faut-il avoir peur des deepfakes ?

Le risque potentiel des deepfakes pour la transmission de l’information n’est plus à prouver. Les géants du numérique l’ont d’ailleurs bien compris et se sont emparés de la question.

Quel est le lien entre Barack Obama et Plus Belle la Vie ? Ce sont deux exemples, certes bien différents, d’utilisation de techniques de deepfakes. Ces trucages vidéos tirent leur nom du deep learning (en français, apprentissage profond) car ils utilisent une forme d’intelligence artificielle particulière grâce à laquelle la machine apprend par elle-même, en se basant sur un système neuronal. Concrètement, cela prend la forme de vidéos truquées dans lesquelles le visage d’une personne est transposé sur un autre corps. Par exemple, cela permet d’insérer le visage de Nicolas Cage dans presque tous les plus grands succès d’Hollywood… mais cela permet aussi de faire dire n’importe quoi, à n’importe qui.

Ainsi, en 2017, une vidéo montrant Barack Obama insultant son successeur à la Maison Blanche, Donald Trump, a été publiée par le site d’information américain Buzzfeed News, elle est rapidement devenue virale. Il s’agissait en réalité d’une vidéo censée alerter sur les dangers du deepfakes, pour laquelle le comédien Jordan Peele imite la voix de l’ancien président américain. Cet avertissement pointe du doigt la réelle menace que représentent les deepfakes pour la transmission de l’information et la notion même de vérité. Surtout quand leur utilisation se démocratise à vitesse grand V…

Développées à partir de 2017, les deepfakes se sont réellement démocratisées avec l’apparition d’applications grand public, telles que FakeApp ou Doublicate. Le fait que des outils de trucage de vidéos puissent être accessibles en quelques clics pour n’importe quelle personne possédant un smartphone explique la multiplication des usages et des risques : fake news - avec des faux discours attribués à des personnalités politiques -, fraude à la reconnaissance vocale/faciale, revenge porn, etc.

Facebook, Microsoft… Les géants d’Internet s’emparent du problème

Conscientes du problème que pouvaient représenter ces trucages d’un nouveau genre, les géant d’Internet ont développé des outils de détection et de prévention. En janvier 2020, Monica Bickert, vice-présidente en charge de la gestion des politiques mondiales de Facebook, ciblait les deepfakes comme “un défi important pour notre industrie et notre société au fur et à mesure que leur utilisation se développe”. Elle annonçait dans la même note que la plateforme “retirerait les contenus truqués et trompeurs”, dans deux cas de figure :

• s’ils ont été édités, de manière peu détectable, afin de faire croire qu’un sujet de la vidéo a dit des mots qu’il n’a pas vraiment prononcés,
• s’ils sont “le produit de l’intelligence artificielle ou du machine learning qui fusionne, remplace ou superpose un contenu sur une vidéo, le faisant apparaître comme authentique”.

Le plus grand réseau social au monde avait lancé dès septembre 2019 un concours, baptisé “Deepfakes detection challenge”, en collaboration avec d’autres géants de la tech comme Microsoft et des universités prestigieuses telles que le MIT, Berkeley ou Oxford. Cette initiative, dotée d’un budget de 10 millions de dollars, avait pour objectif de faciliter la recherche et la détection des vidéos truquées. 2 114 participants ont eu jusqu’au 31 mars 2020 pour repérer le vrai du faux parmi les 115 000 vidéos mises à disposition au sein d’une banque de données commune. Sur cette base de données, le meilleur algorithme développé a atteint un taux de détection assez remarquable de 82,5 %. Toutefois, sur les vidéos issues d’une boîte noire - sur lesquelles les participants n’avaient pas pu entraîner leur algorithme - le taux de détection est tombé à 65 % et n’était plus l’œuvre du même participant.

Microsoft a en parallèle développé son propre outil de détection, baptisé “Video authentificator”, qui fait partie de son Defending Democracy Program, et l’a présenté en septembre 2020. “Video Authenticator peut analyser une photo ou une vidéo pour fournir un pourcentage de chance que le média soit artificiellement manipulé”, résume le groupe informatique. Ce pourcentage, ou score de confiance, fonctionne image par image et peut donc évoluer en temps réel pendant la lecture d’une vidéo.

La firme fondée par Bill Gates a également mis en place un quiz interactif pour sensibiliser les internautes à la question, dans lequel il est notamment demandé de repérer la vidéo truquée parmi plusieurs propositions. En introduction de ce questionnaire, Microsoft rappelle toutefois que la technologie à l’œuvre dans les deepfake a également permis “d’importantes avancées en matière d’expression artistique, de réalisation de films, d’éducation, d’accessibilité, et même de reconstitution historique ou judiciaire”. “Tous les deepfake ne sont pas malveillants”, souligne la firme de Redmond, en citant comme exemple la vidéo du musée Dali de St.Petersburg, en Floride, qui permet de faire renaître le peintre espagnol.

Deepfake : de quoi ressusciter les morts au cinéma ?

Il s’agit d’ailleurs d’un filon largement exploité par les internautes. Des chaînes YouTube comme Dr.Fakenstein ou Ctrl Shift Face ont fait des deepfake “divertissants” une marque de fabrique. Ainsi, dans une vidéo du deuxième cité, on peut voir un passage entier du film “Maman j’ai raté l’avion” (Home Alone, en VO) dans lequel le visage du petit Kevin a été remplacé par celui de Sylvester Stallone (la vidéo s’appelle donc Home Stallone). Une autre vidéo remplace le visage de Jack Nicholson par celui de Jim Carrey dans plusieurs scènes de Shining, avec un résultat assez fascinant à regarder. Le phénomène est aussi arrivé en France, avec une chaîne comme French Faker, qui a notamment remplacé Louis de Funès par Nicolas Sarkozy dans plusieurs de ses grands succès.

La technique des deepfake s’est aussi révélée très utile à l’industrie cinématographique. Une nouvelle technique permettant de les utiliser en haute définition a été développée par Disney Research Studio et l’Ecole polytechnique fédérale de Zurich. Sans que ce soit annoncé tel quel, cette technique pourrait permettre à Disney de faire revivre des acteurs décédés, ce qui pourrait s’avérer utile dans le cadre d’une saga mythique comme Star Wars, par exemple.

En France aussi, le deepfake a été utilisé en octobre dernier par les producteurs de la série Plus Belle la Vie pour remplacer une de leur actrice, cas contact au Covid-19 et donc, placée en quarantaine. Le visage de Malika Alaoui, qui joue le rôle de Mila, a donc été ajouté en postproduction sur celui d’une autre comédienne, Laura Farrugia, qui l’avait remplacée temporairement.