IA Générative & Deepfake : Le cas Mbappé#
Kylian Mbappé "corrigé" par son père : exemple des dangers des "deepfakes"
Le 28 août, une vidéo de Kylian Mbappé [montrant un] enfant réprimandé par un homme présenté comme son père est devenue très populaire sur les réseaux sociaux. Publiée par un compte satirique spécialisé dans les "deepfakes" humoristiques – des images générées par intelligence artificielle permettant de remplacer un visage par un autre –, la vidéo a été maintes fois dupliquée en cachant les indices de son caractère parodique. L’auteur de la vidéo nous donne son sentiment sur ces détournements.
Lien vers la vidéo commentée par l'équipe des Observateurs de France 24
"Je vais régler ton problème. Je vais bien te bastonner, parce que quand on te parle, il me semble que tu ne comprends pas, tu as du mal", dit un père à son enfant dans une scène visiblement filmée dans une école.
La vidéo diffusée le 28 août par le compte Twitter et TikTok French AI Covers (@frenchaicovers) indique "FLASH - Vidéo exclusive : Wilfrid Mbappé adresse des remontrances à Kylian Mbappé pour ses humeurs changeantes concernant son futur au PSG." Une référence aux hésitations du footballeur français pendant l’été à prolonger son contrat avec le Paris Saint-Germain ou à rejoindre le Real Madrid. L’enfant visible dans la vidéo ressemble à s’y méprendre à Kylian Mbappé enfant.
Et pour cause : la vidéo est un "deepfake", une vidéo générée par intelligence artificielle dans laquelle le visage de l’enfant vraiment filmé dans cette séquence a été remplacé par celui de Kylian Mbappé.
Faire cette vidéo ne m’a pris que quelques heures#
La rédaction des Observateurs de France 24 a parlé avec Younes, un développeur informatique de 25 ans, administrateur du compte @frenchaicovers :
Je suis passionné par l’informatique depuis que je suis tout petit, et très intéressé par la technologie des "deepfakes". Je me suis formé moi-même en allant chercher des tutoriels sur Internet en accès libre et permettant de créer facilement un "deepfake". Cela nécessite surtout d’avoir une bonne carte graphique, mais ça ne nécessite pas de connaissances particulières, simplement d’être à l’aise avec des logiciels open source.
Cela ne m’a pris que quelques heures pour faire cette vidéo de Mbappé à partir de la vidéo originale. J’ai dû simplement faire quelques modifications de montage pour rendre le visage encore plus réaliste, mais sans être un monteur professionnel. Je suis assez choqué de la qualité du premier résultat, qui prend en compte de façon automatique la lumière et les mouvements du visage.
Ce qui est très étonnant, c’est que j’ai entraîné l’algorithme avec des images de Mbappé adulte, et pas enfant. Le résultat ressemble bien pourtant à Mbappé enfant.
Younes a partagé avec notre rédaction le processus de production de la vidéo. Après une phase de calcul utilisant un logiciel permettant de fabriquer une première version à partir du visage de Kylian Mbappé et de celui du petit garçon, quelques modifications de l’ordre du montage ont été nécessaires pour rendre la vidéo plus réaliste encore.
Lien vers la capture vidéo de la création du deepfake [via DeepFaceLab] par frenchAICovers
La vidéo a beaucoup circulé à l’international#
Mais l’auteur de @frenchaicovers a voulu rester très clair dans sa démarche :
Dans le contexte de mes comptes Twitter ou TikTok, ma démarche est clairement parodique. C’était une blague et, globalement, tous ceux qui ont posté des commentaires et qui suivent le compte, car ils me connaissent, ont compris que c’était pour rire. J’ai rendu ça aussi clair que possible en ajoutant un filigrane sur la vidéo, et en publiant même un second tweet pour préciser que c’était une parodie.
« ⚠️ Cette vidéo est une parodie et a été générée avec une IA (deepfake) ⚠️ Ne croyez pas aux vidéos que vos tontons vous envoit sur Whatsapp »
— French AI Covers (@frenchaicovers) August 28, 2023
Younes poursuit :
Le problème, c’est qu’à partir du moment où c’est sur les réseaux sociaux, on n’a plus forcément le contrôle de la vidéo. J’ai vu énormément de personnes la récupérer, cacher le filigrane, et poster la vidéo avec une légende disant que c’était Mbappé enfant. La vidéo a beaucoup circulé aussi à l’international : je l’ai vue en anglais, en arabe et même en espagnol.
Je crois que les gens ont voulu inventer un narratif autour de cette vidéo pour la faire passer pour vraie, alors qu’au début, c’était une simple blague. Je pense que c’est parce que les gens sont toujours un peu à la recherche de la vidéo exceptionnelle du passé de Mbappé, la vidéo qu'on nous a cachée…
Cela montre les dangers des "deepfakes" : c'est une technologie de plus en plus accessible, qui demande de moins en moins de puissance de calcul et qui se démocratise. Je pense qu’aujourd'hui, la sensibilisation sur le sujet des "deepfakes" n'est clairement pas suffisante.
Source#
Cet article a été publié le 06/09/2023 par Les Observateurs de France 24.
Pour aller plus loin#
- Lien vers l'outil DeepFaceLab (open source) - DeepFaceLab est un outil qui utilise l'apprentissage automatique pour remplacer les visages dans les vidéos. Vous trouverez ici un binaire Windows 7,8,10 autonome prêt à l'emploi.
- Lien vers la page Wikipédia Deepfake (bien fournie, mais en anglais).