La salle est comble. Xavier Niel, le célèbre patron de Free, monte sur l’estrade. Il se penche vers le micro et commence son discours : “Aujourd’hui, après des mois de négociations, je suis heureux et fier de vous annoncer le rachat de La Poste par notre groupe !”. En quelques minutes, la vidéo fait le tour des réseaux sociaux. Le soir-même, les tweets de personnalités politiques indignées et les appels à manifester pullulent. Dès le lendemain, Xavier Niel est interviewé en direct par une chaîne d’information : il dément catégoriquement et affirme n’avoir jamais tenu ces propos. Trop tard. Scandalisés, des centaines de milliers de Français s’apprêtent à clore leur compte à La Banque Postale, à rendre leur Freebox, ou les deux. C’est un véritable séisme.
Imaginez. Une courte vidéo virale, truquée grâce aux dernières technologies numériques, suffirait aujourd’hui à nous faire croire à peu près n’importe quoi. Les canulars de ce type, appelés “deepfakes”, se multiplient depuis deux ans des Etats-Unis à la Chine en passant par l’Europe. Les progrès fulgurants du “deep learning” (apprentissage automatique), notamment dans l’analyse du signal sonore ou visuel, permettent désormais de synthétiser à la perfection (ou presque) un visage et une voix, qu’ils soient purement fictifs ou empruntés à une personnalité publique. Après les visages de stars d’Hollywood incrustés dans des vidéos pornographiques, ce sont des avatars animés de Barack Obama et Marck Zuckerberg qui ont fait connaître le phénomène. Le premier traitant Donald Trump de “grosse m***”, le second déclarant : “Qui contrôle les données contrôle l’avenir.”
Face à ces applications ludiques liées au développement de l’”IA” (intelligence artificielle), la première réaction des internautes que nous sommes tous est plutôt positive. On s’amuse de voir une célébrité dans une situation ridicule ou notre visage vieilli de 30 ans grâce à l’application FaceApp. A priori, aucune raison de s’inquiéter. Mais la nature humaine étant ce qu’elle est, ces innovations n’ont rien d’anodin. En mars dernier, un malfrat 2.0 est parvenu à extorquer 220 000 euros à une entreprise, en synthétisant la voix de son dirigeant pour convaincre un employé de valider le virement. Et les chercheurs alertent déjà l’opinion quant à la probabilité que de telles techniques soient employées à des fins politiques, dans le contexte d’une campagne électorale, ou pire, pour semer le trouble dans les relations internationales.
Intelligence artificielle et deepfake detection challenge
Si les imitations et les rumeurs les plus folles ont toujours eu cours, la nouveauté réside en effet dans la démocratisation massive de ces outils de trucage hyperréaliste. L’application chinoise Zao, lancée cet été, permet à l’utilisateur de remplacer le visage de l’acteur par le sien dans une célèbre scène de film, en fournissant quelques photos. Qui, dans ces conditions, pourra désormais affirmer avec certitude que la vidéo ou l’extrait sonore divulgués par Mediapart ou l’émission Quotidien sont authentiques ? Comment saura-t-on si Emmanuel Macron a bien été filmé ivre dans un club gay, confiant sa sympathie pour les thèses de Marine Le Pen, ou s’il s’agit de l’oeuvre d’un adversaire politique ? A l’heure où la crédibilité des médias et la confiance dans l’information “officielle” sont au plus bas, les effets pourraient se révéler dévastateurs.
C’est pourquoi les géants du numérique, de Facebook à Apple en passant par Microsoft, Intel et Google, ont annoncé le mois dernier le lancement du “deepfake detection challenge” : un concours mondial, organisé en partenariat avec de grandes universités américaines, visant à récompenser la création d’un outil de détection de ces intox dernières générations. Objectif : le rendre ensuite accessible au plus grand nombre gratuitement, pour que chacun puisse vérifier facilement si tel ou tel contenu est suspect ou non. Autant dire qu’après avoir investi des milliards pour apprendre aux machines à nous tromper à coup sûr, au moins autant vont devoir être engloutis pour leur apprendre à nous détromper…
Jusqu’à présent, des hommes et des femmes aux compétences extrêmement pointues rivalisaient sur le terrain de la sécurité informatique : les uns produisant les virus ou exploitant les failles que les autres s’employaient à neutraliser ou à combler. A l’avenir, ce sont donc des intelligences “artificielles”, nourries de sommes toujours plus colossales de données numériques, qui s’affronteront dans un combat que l’on imagine également sans fin. Car chaque progrès porte en lui les germes de dangereuses régressions et nous oblige à investir dans leur prévention. Et voici comment chaque innovation ne fait qu’accroître encore l’urgence d’innover. Pour le meilleur et pour le pire.
