Deepfake AI : Qu'est ce que c'est et comment s'en protéger

C'est quoi, le Deepfake AI ?

Définition simple

Un anglicisme de plus à connaitre !

Le terme "deepfake" est un amalgame des mots "deep learning" (apprentissage profond) et "fake" (faux), qui désigne une technique d'intelligence artificielle permettant de créer ou de modifier des vidéos avec un réalisme bluffant.

Les deepfakes sont souvent conçus pour faire dire ou faire semblant à des personnes des choses qu'elles n'ont jamais dites ou faites, en superposant numériquement leurs visages ou voix sur ceux d'autres personnes. Cette technologie a vu le jour grâce aux avancées dans le domaine de l'IA et du machine learning, et a été popularisée initialement sur des forums en ligne vers la fin des années 2010.

En gros, si vous avez déjà vu Emmanuel Macron chanter du shakira, il y a fort à parier que ce soit un Deepfake.

Comment les Deepfakes sont Créés

Les deepfakes sont généralement créés à l'aide de réseaux antagonistes génératifs (GAN). Un GAN est composé de deux réseaux neuronaux concurrents : le générateur, qui crée des images, et le discriminateur, qui évalue leur authenticité.

Pour la faire simple, en entraînant ces réseaux sur d'énormes ensembles de données d'images ou de vidéos, le générateur apprend à produire des contenus de plus en plus réalistes, tandis que le discriminateur devient meilleur pour détecter les faux.

L'évolution des Deepfakes

Une technologie très récente

L'essor des deepfakes peut être tracé à des avancées clés dans le domaine de l'intelligence artificielle au cours de la dernière décennie. Initialement, ces techniques nécessitaient d'importantes compétences techniques et des ressources informatiques. Cependant, avec le temps, la création de deepfakes est devenue plus accessible au grand public, grâce à des outils et des logiciels plus conviviaux.

Des Exemples et leur Impact sur la Société

Des exemples marquants de deepfakes incluent des vidéos manipulées de figures politiques, de célébrités, et même de citoyens ordinaires. Par exemple, des vidéos truquées de Barack Obama et de Mark Zuckerberg ont démontré la puissance perturbatrice des deepfakes, soulevant des inquiétudes sur leur potentiel à propager des fausses nouvelles et à influencer l'opinion publique. Ces incidents ont mis en lumière la nécessité urgente de développer des méthodes de détection et des cadres réglementaires pour contrer les abus potentiels.

Applications des Deepfakes

Utilisation Légitime dans l'Industrie du Cinéma, l'Éducation...

Au-delà de leur utilisation malveillante, les deepfakes ont aussi des applications positives. Dans l'industrie du cinéma, ils permettent de rajeunir des acteurs ou de recréer des performances de ceux qui sont décédés. Dans l'éducation, ils pourraient rendre l'apprentissage plus interactif et personnalisé, en permettant par exemple à des personnages historiques de "prendre vie".

Utilisations Malveillantes : Désinformation, Arnaques, etc.

Malheureusement, la facilité de création des deepfakes a également conduit à une augmentation des contenus malveillants, tels que la désinformation, la création de contenu pour adulte sans consentement, et les arnaques. Ces utilisations soulèvent d'importantes questions éthiques et légales, exacerbant les défis liés à la gestion de l'information et à la protection de la vie privée.

Comment se protéger des Deepfakes ?

Outils et techniques de détection des deepfakes

Aperçu des méthodes actuelles de détection des deepfakes

Vous l'aurez compris, la lutte contre les deepfakes repose en grande partie sur le dévelloppement d'outils capables de les identifier avec précision. Les chercheurs ont mis au point des méthodes basées sur l'intelligence artificielle qui analysent les vidéos à la recherche de signes révélateurs de manipulation, tels que des incohérences dans le clignement des yeux, des irrégularités dans la respiration, ou des distorsions dans le fond sonore.

Ces systèmes de détection exploitent également les défauts moins perceptibles laissés par les processus de génération des deepfakes, comme des textures de peau anormales ou des mouvements faciaux improbables.

Mais il y a des limites...

Malgré les progrès, ces outils de détection ne sont pas infaillibles. Les créateurs de deepfakes améliorent constamment leurs techniques, entraînant une course aux armements entre la création et la détection. De plus, ces systèmes peuvent parfois produire des faux positifs, identifiant à tort des vidéos authentiques comme étant manipulées, ou des faux négatifs, ne détectant pas les deepfakes les plus sophistiqués.

Conseils pratiques s'en protéger

Comment développer un esprit critique

Dans ce contexte, il devient hyper-important pour tout le monde de cultiver un esprit critique. Cela implique d'approcher les médias numériques avec scepticisme, de questionner l'origine des informations et de rechercher des indices de manipulation. Apprendre à reconnaître les sources fiables et à remettre en question les contenus qui suscitent des émotions fortes ou semblent trop sensationnels est plus important que jamais.

Vérification des sources et utilisation de fact-checkers

L'utilisation de fact-checkers et de vérificateurs de faits reconnus est une autre stratégie essentielle. De nombreuses organisations et plateformes en ligne offrent des services de vérification qui peuvent aider à discerner les faits des manipulations. De plus, croiser les informations en consultant plusieurs sources peut révéler des incohérences ou confirmer l'authenticité des contenus.

Vous pouvez par exemple utiliser l'outil deepfake detector de Sensity pour vous checker une vidéo si vous avez des doutes !

Mesures prises par les entreprises et les gouvernements

Initiatives de plateformes de médias sociaux pour identifier et marquer les contenus manipulés

Les plateformes de médias sociaux, conscientes des risques posés par les deepfakes, ont commencé à mettre en place des mesures pour les détecter et les signaler. Certains réseaux utilisent des tags pour marquer les contenus potentiellement manipulés, tandis que d'autres investissent dans des technologies de détection avancées ou modifient leurs politiques pour interdire explicitement les deepfakes malveillants.

Ce que dit la loi en France

Sur le front réglementaire, plusieurs gouvernements travaillent à l'élaboration de lois pour criminaliser la création et la distribution de deepfakes nuisibles. Ces cadres législatifs visent à protéger les individus contre la diffamation, la désinformation et les atteintes à la vie privée, tout en équilibrant les préoccupations liées à la liberté d'expression.