Deepfakes, peur sur l’AI

02 janvier 2020   •  
Écrit par Fisheye Magazine
Deepfakes, peur sur l’AI

Pourrait-on vivre dans un monde où plus aucune vidéo ne serait crédible ? Telle est la question que pose l’émergence des deepfakes, ces fausses vidéos très réalistes générées par intelligence artificielle. Alors que la démocratisation des outils de manipulation menace aussi bien la politique que la sphère privée, plusieurs acteurs du secteur appellent à réagir. Cet article, rédigé par Dorian Chotard, est à retrouver dans notre dernier numéro.

Un samedi matin, dans un quartier d’affaires impersonnel de Los Angeles, Hao Li nous accueille dans des bureaux vides. Sa société, Pinscreen, est spécialisée dans la création d’avatars photoréalistes pour l’industrie du jeu vidéo et du divertissement. Imaginez, dans quelques années, la possibilité d’un jeu, d’un film ou d’une série dont vous êtes le héros : une épopée dans laquelle votre visage remplacerait celui du personnage principal. Mais ce jour-là, c’est une perspective plus inquiétante qu’il me propose d’explorer. Après avoir traversé un open space désert, le jeune patron m’installe face à un écran doté d’une webcam. C’est ici que sa démonstration commence : « Ok, maintenant, qui voulez-vous devenir ? » Un menu déroulant m’offre le choix parmi une vingtaine de personnalités : Emmanuel Macron, George Clooney ou encore Vladimir Poutine. En un clic, me voici capable d’incarner n’importe qui. Tel un marionnettiste, je peux faire prononcer les phrases les plus scandaleuses aux dirigeants de la planète, le tout en temps réel. « On fonce vers un monde dans lequel n’importe qui sera capable de falsifier une vidéo et d’usurper n’importe quelle identité, avertit Hao Li. Les progrès sont tels que, d’ici un an ou deux, on ne pourra même plus faire la différence entre de la 3D et une vidéo authentique. »

© Thispersondoesntexist.com© Thispersondoesntexist.com

Un trucage indétectable

Depuis l’apparition des deepfakes, il y a deux ans, Hao Li diffuse sa mise en garde au plus haut niveau. En juin dernier, il est invité en Chine afin de sensibiliser l’audience du Forum économique mondial. Il collabore également avec la Darpa (Defense Advanced Research Projects Agency), une agence du département de la Défense des États-Unis qui prend très au sérieux cette menace à l’approche de l’élection présidentielle de 2020. Contraction de Deep Learning et de Fake, un deepfake consiste à utiliser l’intelligence artificielle afin de remplacer un visage par un autre dans une vidéo. En pratique, deux algorithmes se livrent une compétition infinie jusqu’à rendre le trucage indétectable à l’œil nu. Afin de prouver qu’une intelligence artificielle est déjà en capacité de nous leurrer, une firme hollandaise spécialisée dans la détection de deepfakes a mené une expérience sur son site internet. Objectif du test : essayer de discerner les visages humains de ceux générés par un algorithme. Le verdict est sans appel. « Seul 0,06 % des gens – soit 20 personnes sur 30000 – a réussi un sans-faute, détaille Sezer Karaoglu, cofondateur de 3DUniversum. Plus des deux tiers des participants n’obtiennent même pas la moyenne. »

Il y a encore quelques mois, remplacer un visage par un autre de façon crédible dans une vidéo restait l’apanage des gros studios d’Hollywood. Aujourd’hui, il suffit d’un peu de temps et d’un ordinateur. Alors que la pratique se démocratise, les théoriciens du pire échafaudent déjà des scénarios catastrophe. Et si une fausse vidéo de Donald Trump déclarant son hostilité à la Corée du Nord venait à déclencher la Troisième Guerre mondiale? « À mon avis, le risque le plus inquiétant et le plus immédiat, ce n’est pas ce genre de vision apocalyptique, tempère Sezer Karaoglu. C’est plus subtil, plus insidieux et cela concerne tout le monde. Si quelqu’un veut vous nuire, il lui sera facile de fabriquer une vidéo pour vous faire passer pour un criminel. Même si vous démentez, ce sera trop tard : le mal sera fait. » De ce point de vue, la liste des risques n’a pas d’autre limite que celle de l’imagination des personnes malveillantes. Il deviendrait possible d’usurper l’identité d’un proche lors d’un appel vidéo, de nuire à la réputation d’une entreprise afin de manipuler les marchés, d’escroquer un employé en se faisant passer pour son patron, etc.

 

Cet article est à retrouver dans son intégralité dans Fisheye #39, en kiosque et disponible ici.

 

© Thispersondoesntexist.com© Thispersondoesntexist.com

Issues du site thispersondoesnotexist, ces personnes n’existent pas. Leurs traits ont été générés par intelligence artificielle.

Explorez
Behind the Facade : l’étrange huis clos de Jennifer McLain
© Jennifer McLain
Behind the Facade : l’étrange huis clos de Jennifer McLain
Dans Behind the Facade, Jennifer McLain compose un monde dans lequel elle tente de se soustraire à des évènements du quotidien qui...
Il y a 9 heures   •  
Écrit par Apolline Coëffet
Lancement de Fisheye Immersive La Revue : un observatoire annuel des arts numériques et immersifs
© Salome Chatriot
Lancement de Fisheye Immersive La Revue : un observatoire annuel des arts numériques et immersifs
Un an après le lancement du magazine en ligne, Fisheye Immersive sort sa revue papier. 192 pages, bilingues français-anglais, consacrées...
15 mai 2024   •  
Écrit par Marie Baranger
Silent Radar : VRChat, des mondes en simulation
Connecticut. April 12, 2023. Portrait of Silent behind her green screen. As a Virtual Reality drone racing champion, she uses a green screen while competing online. Because she reveals herself on camera, those moments involve more beauty preparation, so she can feel comfortable while competing in the Women's Cup. Outside of simulator competitions, she also flies her real drone, and is portrayed holding her remote controller. Though she is among the top-200 fastest pilots worldwide, real-life drone racing has a steep cost barrier. In addition, the American drone-racing scene takes place mostly in the Midwest, where she feels a lot of fear related to being a trans woman taking part in these events. © Paola Chapdelaine
Silent Radar : VRChat, des mondes en simulation
Bienvenue sur VRChat, une plateforme en ligne qui permet à une communauté d’environ 70 000 personnes de créer leurs propres avatars et...
14 mai 2024   •  
Écrit par Agathe Kalfas
Le Motorola edge50 pro à toute épreuve
© Borey Sok / Studio Beige
Le Motorola edge50 pro à toute épreuve
Sous le soleil écrasant de Marrakech ou dans le singulier quartier de Beaugrenelle à Paris, le nouveau-né de Motorola – le edge50 pro –...
10 mai 2024   •  
Écrit par Fisheye Magazine
Nos derniers articles
Voir tous les articles
Behind the Facade : l’étrange huis clos de Jennifer McLain
© Jennifer McLain
Behind the Facade : l’étrange huis clos de Jennifer McLain
Dans Behind the Facade, Jennifer McLain compose un monde dans lequel elle tente de se soustraire à des évènements du quotidien qui...
Il y a 9 heures   •  
Écrit par Apolline Coëffet
Lee Miller à Saint-Malo : une exposition présente de rares images de la Seconde Guerre mondiale
© Lee Miller Archives, Angleterre 2024
Lee Miller à Saint-Malo : une exposition présente de rares images de la Seconde Guerre mondiale
À l’occasion du 80e anniversaire de la libération de Saint-Malo, la chapelle de l’École nationale supérieure de la marine...
17 mai 2024   •  
Écrit par Apolline Coëffet
Quand l’étranger devient intime : les dialogues ininterrompus de Jana Sojka
© Jana Sojka
Quand l’étranger devient intime : les dialogues ininterrompus de Jana Sojka
Jana Sojka imagine des diptyques afin de donner cours à un dialogue ininterrompu. Dans un nuancier crépusculaire lui inspirant sérénité...
17 mai 2024   •  
Écrit par Apolline Coëffet
Charlie Tallott est le lauréat 2024 du prix Photo London x Nikon
© Charlie Tallott
Charlie Tallott est le lauréat 2024 du prix Photo London x Nikon
Le 15 mai 2024, à la Somerset House, le Photo London x Nikon Emerging Photography Award a annoncé son nouveau lauréat : Charlie Tallott....
16 mai 2024   •  
Écrit par Lou Tsatsas