EXPLICATION : QUE SONT LES DEEPFAKES ?

Avez-vous vu la vidéo de la présidente de la Chambre des représentants américaine, Nancy Pelosi, qui semble ivre et a des difficultés d'élocution ? Ou peut-être celle du PDG de Facebook, Mark Zuckerberg, plaisantant sur sa connaissance des secrets d'État ? Ou encore les vidéos de Raspoutine chantant du Beyoncé, d'Andy Warhol mangeant un hamburger Burger King ou de Salvador Dali ressuscité ?

Découvrez mon analyse des deepfakes dans cet article du CMO (ci-dessous ou cliquez ici pour lire l'article du CMO)

En 2018, l'ancien président américain, Barack Obama, a mis en garde, dans une vidéo, contre la manipulation des propos de n'importe qui par ses ennemis.

Les deepfakes sont des vidéos, et parfois des enregistrements audio, qui prétendent montrer une personne faisant ou disant quelque chose qu'elle n'a jamais fait dans la réalité. Ces images peuvent montrer de vraies personnes, comme des politiciens, des figures historiques ou de simples anonymes. Elles peuvent aussi être entièrement fabriquées, comme celles montrant des personnalités disparues depuis longtemps, telles qu'Andy Warhol ou Salvador Dali, en train de parler ou d'interagir avec des objets qu'elles n'auraient jamais pu manipuler de leur vivant.

L'APPRENTISSAGE AUTOMATIQUE DONNE VIE AUX PHOTOS

Simon Smith, expert en cybercriminalité et témoin expert en cybercriminalité, a expliqué à CMO que le terme « deepfake » provient de la technologie d'apprentissage profond utilisée pour créer ces fausses vidéos.

« La technologie la plus performante est utilisée pour cartographier chaque mouvement musculaire du visage d'une personne (en ne considérant que le visage) et le reproduire dans un algorithme d'apprentissage, puis l'associer à un mot, une phrase, une attitude ou un sentiment », a-t-il expliqué.

« Une fois l'apprentissage suffisamment avancé, il est possible d'obtenir un effet quasi-réaliste grâce à une technologie de morphing graphique qui prend en compte l'âge de la personne, la coordination des muscles, les étirements et les expressions pour un rendu réaliste. »

La raison pour laquelle nous voyons et entendons parler de deepfakes aujourd'hui réside dans la convergence des progrès technologiques et des activités des franges les plus obscures du web.

Selon Allan Waddell, fondateur et co-PDG de Kablamo, une entreprise de logiciels cloud, la puissance de calcul explose, ce qui explique la prolifération des deepfakes. La sophistication de l'intelligence artificielle (IA) et de la reconnaissance de formes sur les ensembles de données d'images ne fait qu'aggraver le phénomène.

« Il s'agit d'utiliser un grand nombre d'images pour créer des modèles à superposer à des personnes réelles. Traditionnellement, plus on a d'images, plus le modèle est précis », explique-t-il. « Des avancées considérables ont été réalisées concernant le nombre d'images et d'ensembles de données nécessaires à la création de ces deepfakes. »

L'ESSOR DU MARKETING MENSONGER ?

Autrefois, les fausses vidéos étaient parfois créées pour faire rire, par exemple en faisant dire à des politiciens ou des célébrités de fausses paroles, les faisant ainsi se parodier. La plupart du temps, elles étaient inoffensives car facilement identifiables comme fausses et suffisamment exagérées pour en être invraisemblables.

Cependant, les progrès de l'apprentissage automatique ont permis la création de vidéos d'un réalisme saisissant. Ajoutez à cela l'omniprésence des réseaux sociaux, où les fausses informations et les fausses vidéos se propagent sans contrôle ni vérification, et vous obtenez le problème des deepfakes.

« Cette technologie est utilisée depuis des années pour l'animatronique, en modélisant les articulations et les mouvements des personnages de dessins animés. C'est un cran au-dessus et, entre de mauvaises mains, cela pourrait entraîner des vols d'identité, des usurpations d'identité, des accusations de crimes et des conséquences bien plus graves », a déclaré Smith à CMO.