Deepfakes : définition, types et exemples clés

Avec l'utilisation généralisée de l'IA pour transformer les industries, les deepfakes sont devenus un phénomène mondial qui brouille les frontières entre le réel et le manipulé. Selon des enquêtes, plus de la moitié des employés d'organisations ne sont pas correctement formés aux risques liés aux deepfakes. Dans le même temps, 1 dirigeant sur 4 ignore encore l'existence de ces contrefaçons sophistiquées appelées deepfakes, et des incidents se produisent toutes les cinq minutes dans le monde. Dans ce contexte, les défenses contre les deepfakes ne sont plus facultatives, et les entreprises doivent savoir ce que sont les deepfakes et comment les atténuer.

Commençons donc cet article par la définition des deepfakes et la manière dont ils en sont venus à exercer une influence aussi massive sur les médias et la sécurité. Nous aborderons ensuite leur évolution historique, leurs différentes formes, leurs modes de création et leurs méthodes de détection. Nous décrirons ensuite des cas d'utilisation réels, positifs et négatifs, y compris les perspectives d'avenir et des conseils pour se protéger contre les deepfakes. Enfin, nous discuterons de la manière de protéger les organisations contre ces manipulations sophistiquées et analyserons certaines des questions les plus courantes sur ce qu'est un deepfake dans le domaine de la cybersécurité.

Que sont les deepfakes ?

Les deepfakes sont essentiellement des médias synthétiques (généralement vidéo ou audio) créés par des modèles d'IA pour imiter les visages, les voix ou les mouvements de personnes réelles avec un réalisme troublant. Ces systèmes utilisent des cadres d'apprentissage profond, en particulier des réseaux antagonistes génératifs (GAN), qui opposent deux réseaux neuronaux l'un à l'autre, l'un produisant des contrefaçons et l'autre les critiquant pour leur authenticité. Le générateur itère sur sa sortie à plusieurs reprises jusqu'à ce qu'il trompe le discriminateur, créant ainsi des illusions très réalistes, généralement qualifiées de " meilleurs deepfakes " si le produit final est impossible à distinguer d'une séquence réelle.

Ils peuvent parfois être comiques ou créatifs, mais ils peuvent également être utilisés à des fins malveillantes, telles que l'usurpation d'identité ou la désinformation. Les deepfakes sont devenus un défi majeur en matière de cybersécurité, comme le montre une enquête réalisée en 2023, qui a révélé que 92 % des cadres supérieurs étaient " très préoccupés " par l'utilisation abusive de l'IA générative.

Impact des deepfakes

Comme le prouvent plusieurs exemples que nous verrons plus loin dans cet article, les deepfakes est dangereux et peut être utilisé pour divers types d'attaques, allant de la atteinte à la réputation à petite échelle à la désinformation à grande échelle. Un chiffre inquiétant révèle que les fraudes par échange de visages deepfake lors de la vérification d'identité ont augmenté de 704 % en 2023, ce qui suggère que les criminels utilisent l'IA pour usurper l'identité. Voici cinq façons importantes dont les deepfakes définissent les paradigmes de risque actuels.

1. Baisse de confiance dans les preuves visuelles : Pendant de nombreuses années, la vidéo a été considérée comme une preuve presque irréprochable. Aujourd'hui, il est possible de remplacer la tête ou la voix d'une personne par celle d'une autre, ce qui signifie que ce que l'on pourrait considérer comme une preuve n'est peut-être même pas réel. Ces illusions font douter le public de la véracité des clips et, par conséquent, remettent en question l'authenticité du journalisme ou des aveux présentés dans les clips. Avec l'effondrement de l'authenticité, la question " qu'est-ce qui est deepfake ou réel ? " devient un enjeu majeur pour la justice et le public.
2. Atteinte à la réputation et diffamation : Une vidéo peut montrer la personne visée en train de tenir des propos provocateurs ou de commettre un acte répréhensible. Une fois publié sur Internet, il se propage en peu de temps avant que des excuses ne soient présentées pour la désinformation. Le doute persiste et la crédibilité de la chaîne est compromise, même lorsque la vidéo s'avère être un faux. Il apparaît déjà que la plupart des deepfakes utilisés dans les campagnes de dénigrement politique montrent à quelle vitesse les illusions prennent le pas sur les déclarations réelles.
3. Ingénierie sociale et fraude d'entreprise : Les entreprises perdent de l'argent lorsque des appels ou des vidéos deepfake trompent les employés et les incitent à transférer des fonds ou à divulguer des informations. Dans le cadre de cette approche, les attaquants s'appuient sur la confiance des employés pour se faire passer pour des utilisateurs légitimes et obtenir l'approbation des demandes. Dans le cadre de l'authentification basée sur l'identité, si l'identité est compromise, l'ensemble de la chaîne d'approvisionnement ou les processus financiers sont menacés. Cela montre que la technologie deepfake est une amélioration de l'techniques d'ingénierie sociale existantes.
4. Promotion de fausses informations : Les groupes extrémistes peuvent enregistrer des vidéos de leurs dirigeants soutenant des fausses informations ou falsifiant de nouveaux documents divulgués afin de semer la discorde. Dans ce cas, les illusions sont diffusées sur les réseaux sociaux où les gens partagent les fausses informations avant que les organismes de vérification des faits. Au moment où une vidéo est discréditée, elle a déjà influencé des milliers de personnes. Cela est d'autant plus vrai que les contenus deepfake sont de nature virale et peuvent potentiellement provoquer des bouleversements politiques ou sociaux importants.
5. Attaques visant la vérification d'identité et l'authentification : La reconnaissance faciale ou vocale en tant que méthode biométrique est très vulnérable aux deepfakes. Elle peut être utilisée pour créer de fausses vidéos de substitution de visage afin de passer les processus KYC ou de déverrouiller le téléphone ou tout autre appareil d'une personne. C'est pourquoi les usurpations d'identité ont augmenté, ce qui a conduit d'autres solutions à intégrer la détection de vivacité ou l'analyse des micro-expressions. La présence d'illusions " deepfakes IA " dans les domaines de l'authentification constitue une menace pour la couche centrale de la cybersécurité.

Deepfake Vs Shallowfake

Toutes les vidéos manipulées ne nécessitent pas une IA complexe. Le terme " shallowfake " fait référence à des outils d'édition plus simples, tels que des clips ralentis ou accélérés. En revanche, les méthodes deepfake utilisent des réseaux neuronaux avancés pour rendre les résultats plus réalistes. Les deepfakes impliquent l'utilisation de cadres d'apprentissage profond pour reproduire un visage, une voix ou même un corps entier à un niveau presque parfait. Ils conservent un éclairage constant, articulent les mouvements du visage et adaptent les expressions faciales de la cible. Les illusions peuvent tromper même les spectateurs les plus prudents grâce à un traitement sophistiqué des données. La caractéristique principale est la superposition avancée et la modélisation générative pour créer un résultat vraiment réaliste.

Cependant, un " shallowfake " impliquerait très probablement des coupes manuelles, des techniques de ralentissement ou d'accélération, ou de simples filtres d'édition. Cela peut induire en erreur les spectateurs s'ils ne savent pas que le clip est accéléré ou recontextualisé artificiellement. Les shallowfakes sont plus faciles à repérer, mais ils peuvent être très efficaces pour diffuser des vérités partielles ou des illusions comiques. Moins avancés que les illusions deepfake, ils ont néanmoins leur place dans la désinformation et la manipulation des médias.

Histoire de la technologie deepfake

Les origines des deepfakes remontent aux percées du deep learning et à la collaboration open source qui ont conduit à une explosion des innovations en matière d'échange de visages. Les expériences de manipulation faciale existent depuis des décennies, mais les réseaux neuronaux modernes ont porté le réalisme à des niveaux stupéfiants.

Selon une estimation, d'ici 2026, 30 percent of enterprises ne se fieront plus entièrement à la vérification d'identité comme gage de confiance en raison des progrès considérables réalisés dans le domaine de la falsification basée sur l'IA.

1. Premières expériences & transplantation faciale : Dans les années 1990, les spécialistes de l'imagerie de synthèse se sont essayés à des échanges de visages rudimentaires, animés à la main, pour les effets spéciaux des films. Bien que les outils soient devenus plus sophistiqués, les résultats semblaient peu naturels et nécessitaient une retouche manuelle des images. L'apprentissage automatique pour le morphing a été testé par des chercheurs en informatique, mais les contraintes matérielles ont empêché toute avancée supplémentaire. Si ce concept a servi de base aux deepfakes, les véritables percées n'ont eu lieu qu'avec la mise à disposition de jeux de données plus importants et de puissances de calcul GPU robustes.
2. Réseaux antagonistes génératifs (GAN) : Les GAN ont été introduits par Ian Goodfellow en 2014 et ont révolutionné les médias synthétiques. Des boucles de rétroaction itératives entre un générateur et un discriminateur ont permis d'affiner les visages synthétiques. Cela a inspiré des illusions très raffinées. Les anciennes contraintes manuelles ayant été levées, les créateurs ont pu voir comment les " meilleurs deepfakes " pouvaient reproduire des micro-expressions et des nuances d'éclairage qui étaient auparavant impossibles à réaliser.
3. Communauté et popularisation sur Reddit : Le deepfake est devenu populaire auprès du grand public vers 2017, lorsque des subreddits ont commencé à diffuser des échanges de visages de célébrités, certains drôles, d'autres beaucoup moins. Les gens ont ainsi découvert comment le code open source et les GPU grand public ont démocratisé les contrefaçons. Les plateformes de deepfakes ont été interdites pour les contenus non consensuels, mais le " génie des deepfakes " était déjà sorti de sa lampe, avec d'innombrables dérivés et de nouvelles interfaces conviviales. Cela a mis en évidence les dilemmes éthiques liés à la facilité de manipulation des visages.
4. Outils commerciaux et progrès en temps réel : Aujourd'hui, des applications et des solutions commerciales permettent d'effectuer des échanges de visages, des synchronisations labiales ou des clonages de voix à grande échelle avec peu d'intervention de l'utilisateur. D'autres sont des illusions en temps réel destinées à des farces en streaming ou en vidéoconférence. Parallèlement, les studios perfectionnent la technologie d'IA deepfake afin de faire revenir des acteurs dans des films ou de localiser du contenu de manière transparente. Cependant, avec l'explosion de son utilisation, les entreprises et les organismes gouvernementaux ont commencé à prendre conscience que l'infiltration et la propagande constituaient des menaces potentielles.
5. Réponse réglementaire et efforts de détection : Les gouvernements du monde entier proposent ou adoptent des lois visant à interdire l'utilisation des deepfakes à des fins malveillantes, en particulier dans les cas de diffamation ou de fraude. Parallèlement, les entreprises technologiques collaborent avec des scientifiques spécialisés dans l'intelligence artificielle afin d'améliorer la détection des deepfakes sur les réseaux sociaux. Cependant, cela conduit à un jeu du chat et de la souris où l'un des camps développe une nouvelle méthode de détection. rel="noopener">l'intelligence artificielle afin d'améliorer la détection des deepfakes sur les réseaux sociaux. Cependant, cela conduit à une situation de chat et de souris où d'un côté, on développe une nouvelle méthode de détection, et de l'autre, on invente une nouvelle façon de générer des deepfakes. On peut s'attendre à ce qu'à l'avenir, la créativité et le problème croissant des menaces de cybersécurité liées aux deepfakes s'affrontent sans cesse.

Types de deepfakes

Si les vidéos avec échange de visages font la une des journaux, les citations deepfake prennent de nombreuses formes, allant des imitations audio aux reconstitutions complètes du corps. Connaître chaque type permet de comprendre l'étendue des abus possibles.

Nous classons ci-dessous les principaux types de deepfakes dans le contexte des médias quotidiens et de la sécurité avancée.

1. Vidéos avec échange de visages : Version la plus emblématique, l'échange de visages consiste à superposer le visage d'un sujet sur le corps en mouvement d'une autre personne. Les réseaux neuronaux sont capables de suivre les expressions et de les faire correspondre image par image pour créer des illusions réalistes. Certaines de ces vidéos deepfake sont des mèmes ludiques, tandis que d'autres sont des canulars malveillants qui peuvent ruiner des réputations. Même les spectateurs avertis qui ne disposent pas d'outils de détection avancés peuvent être déconcertés par la haute fidélité des détails.
2. Synchronisation labiale et superpositions audio : Les faux synchronisés, parfois appelés " marionnettes ", remplacent les mouvements de la bouche pour les faire correspondre à un son synthétique ou manipulé. Le résultat ? Les mots ne sont jamais prononcés par un locuteur, mais ils semblent l'être. Combiné au clonage vocal, le " visage " dans le clip peut interpréter de manière convaincante des scripts entiers.
3. Clonage vocal uniquement : Les deepfakes audio sont uniquement basés sur la reproduction de la voix de l'IA sans images. Ils sont utilisés par des fraudeurs dans le cadre d'escroqueries téléphoniques, par exemple pour se faire passer pour un cadre supérieur afin d'ordonner des virements bancaires urgents. Certains créent des voix off de " célébrités " pour des opérations marketing. Il est difficile de repérer ce type de deepfake, car il ne comporte pas d'indices visuels et nécessite une analyse spectrale avancée ou des déclencheurs contextuels suspects.
4. Reconstitution complète du corps : Les modèles génératifs peuvent capturer l'ensemble de la posture, des mouvements et des gestes d'un acteur et les reproduire sur une autre personne. Le résultat final est un sujet qui semble danser, faire du sport ou accomplir des tâches qu'il n'a jamais réalisées. Les expériences cinématographiques ou de réalité augmentée exigent des illusions corporelles complètes. Cependant, c'est la cybersécurité des deepfakes qui est la plus alarmée par la possibilité de falsifier des " vidéos alibis " ou des preuves mises en scène.
5. Clones conversationnels basés sur du texte : Bien qu'ils ne soient pas aussi souvent mentionnés que les deepfakes, les systèmes de texte génératifs imitent le style d'écriture ou de conversation d'une personne. Les cybercriminels créent de nouveaux fils de discussion qui imitent le langage et le style d'écriture de l'utilisateur. Lorsque la voix ou l'image est ajoutée à l'illusion, il est possible de créer un faux à plusieurs niveaux, voire un personnage deepfake complet. Il est prévisible qu'à mesure que l'IA générative textuelle gagnera en complexité, elle sera utilisée non seulement pour la falsification d'images, mais aussi dans le cadre de stratagèmes d'ingénierie sociale via des plateformes de messagerie.

Comment fonctionnent les deepfakes ?

Les deepfakes s'appuient sur un solide pipeline de collecte de données, d'entraînement de modèles et de perfectionnement des illusions. Les criminels exploitent l'IA générative à des fins frauduleuses, et des études montrent une augmentation de 700 % des incidents liés aux deepfakes dans le domaine des technologies financières.

En connaissant le processus, les entreprises peuvent comprendre les vulnérabilités et les contre-mesures potentielles.

1. Collecte et prétraitement des données : Les créateurs compilent d'énormes bibliothèques d'images ou d'enregistrements audio de la cible, souvent à partir des réseaux sociaux, d'interviews ou d'archives publiques. Plus les angles, les expressions ou les échantillons vocaux sont variés, plus le deepfake final est réaliste. Ensuite, ils normalisent les images, standardisent la résolution et étiquettent les repères pertinents (par exemple, les yeux, la forme de la bouche). À cette fin, cette curation garantit que le réseau neuronal voit les mêmes données à différentes étapes de l'entraînement.
2. Entraînement du réseau neuronal : Les cadres d'apprentissage antagonistes tels que les GAN sont au cœur des illusions basées sur l'IA, car ils affinent chaque image ou extrait audio créé. Ils tentent de tromper un discriminateur qui critique l'authenticité. Grâce à de nombreuses itérations, le générateur est capable de peaufiner le résultat pour qu'il corresponde aux nuances du monde réel, telles que les clignements des yeux ou l'intonation vocale. Cette synergie donne naissance au phénomène des deepfakes, qui aboutit à des contrefaçons presque parfaites.
3. Alignement et déformation du visage/de la voix : Une fois qu'il a appris à reproduire les traits faciaux ou vocaux de la cible, il les combine avec la tête, le corps ou la piste vocale d'une deuxième personne dans une séquence réelle. Pour assurer la synchronisation avec le clip de référence, un alignement des lèvres, des yeux ou des mouvements est effectué. L'analyse de la forme d'onde mélange le timbre de la voix de la cible avec le timing de la piste de base pour l'audio. Les petits artefacts ou les divergences de couleur qui pourraient suggérer un deepfake IA sont corrigés par post-traitement.
4. Post-production et rendu final : Pour les touches finales, les créateurs passent souvent les images ou le son obtenus dans des outils d'édition afin de lisser les contours, d'harmoniser l'éclairage ou d'ajuster la hauteur du son. Certains peuvent même dégrader intentionnellement la qualité vidéo afin de la faire ressembler à celle des enregistrements typiques réalisés avec un smartphone, qui peuvent contenir des deepfakes potentiels. Les producteurs publient le contenu sur les réseaux sociaux ou le transmettent aux destinataires une fois qu'ils sont satisfaits. Le résultat semble authentique, ce qui suscite l'inquiétude et entraîne une demande pour des méthodes de détection améliorées.

Comment créer des deepfakes ?

Bien qu'il existe plusieurs controverses, de nombreuses personnes souhaitent mieux comprendre le concept afin de créer des deepfakes. Aujourd'hui, n'importe qui peut créer des illusions sophistiquées à l'aide de logiciels conviviaux et de modèles open source. Nous décrivons ci-dessous les méthodes couramment utilisées par les amateurs et les professionnels, montrant à quel point il est facile de créer ce type de contenu malveillant.

1. Applications de permutation de visages : Il existe toute une gamme d'outils grand public qui permettent aux novices de créer des permutations de visages à partir d'un téléphone ou d'un PC avec un minimum d'effort. Le logiciel automatise l'apprentissage et le mélange en téléchargeant deux vidéos (une source et une cible). Cependant, ces applications peuvent être utilisées à des fins malveillantes pour usurper l'identité d'une personne. Cette démocratisation favorise à la fois le divertissement ludique et l'utilisation abusive et grave des deepfakes./li>
2. Cadres GAN et code source ouvert : Des résultats avancés sont accessibles grâce à des cadres tels que TensorFlow ou PyTorch, avec des référentiels dédiés à la falsification des visages ou des voix. Les bricoleurs, habiles en architecture réseau, en paramètres d'entraînement ou même en combinaisons de données, peuvent adapter les architectures réseau, modifier les paramètres d'entraînement ou intégrer plusieurs ensembles de données. Cette approche permet d'obtenir les meilleurs deepfakes, mais elle nécessite davantage de matériel (GPU) et de connaissances en codage. Elle permet d'améliorer considérablement le niveau de tromperie en offrant la possibilité d'affiner les illusions au-delà des paramètres par défaut disponibles dans le commerce.
3. Illusions basées sur l'audio : Les créateurs qui se concentrent sur les illusions basées sur l'audio utilisent des scripts de synthèse vocale qu'ils associent à des modules de synchronisation labiale pour obtenir des mouvements de bouche réalistes. Le système peut être entraîné à partir d'échantillons vocaux et générer de nouvelles lignes dans l'accent ou avec les maniérismes de la cible. Afin de garantir que les images correspondent à chaque phonème prononcé, l'alignement des mouvements des lèvres est assuré. Ces " combinaisons deepfake de synchronisation labiale " sont capables de créer des illusions de " têtes parlantes " d'une précision stupéfiante .
4. Services de rendu basés sur le cloud : Certains fournisseurs commerciaux de deepfakes ou d'outils d'IA sont en mesure de prendre en charge la formation intensive des modèles sur des serveurs distants. Les utilisateurs n'ont qu'à soumettre des ensembles de données ou des paramètres de script et à attendre les résultats finaux. Les contraintes locales liées aux GPU sont supprimées, et les illusions complexes ou de grande envergure peuvent être exécutées sur une infrastructure robuste. D'un autre côté, cela permet également de commander rapidement des contrefaçons avancées, ce qui soulève des inquiétudes quant à la cybersécurité des deepfakes.
5. Superpositions manuelles et montage hybride : Les créateurs utilisent ensuite des logiciels tels qu'Adobe After Effects pour affiner manuellement les images, même après la génération d'une carte faciale basée sur un réseau neuronal. Ils corrigent les artefacts de bordure, modifient l'éclairage ou incluent des raccords shallowfake pour que les transitions entre les artefacts soient aussi minimes que possible. La combinaison de contenus générés par l'IA et d'une post-production habile est presque parfaite. Le résultat est un deepfake qui peut facilement placer un faux sujet n'importe où, des sketches humoristiques aux imitations malveillantes.

Comment détecter les deepfakes ?

L'art et la science de la détection deviennent plus difficiles à mesure que les illusions deviennent plus réalistes. Étant donné que la moitié des professionnels de la cybersécurité n'ont pas suivi de formation officielle sur les deepfakes, les organisations risquent d'être victimes de fraudes ou de désinformation à haut risque. Vous trouverez ci-dessous quelques approches éprouvées, manuelles et basées sur l'IA, qui fonctionnent bien pour la détection des deepfakes.

1. Observation humaine et indices contextuels : Les illusions avancées ont leurs limites, et des facteurs tels que des clignements d'yeux irréguliers, des ombres étranges ou des coins de lèvres qui ne correspondent pas peuvent éveiller les soupçons. Les observateurs peuvent également rechercher des " transitions " faciales non naturelles lorsque le sujet tourne la tête. Les montages suspects peuvent être vérifiés en croisant les informations provenant des arrière-plans ou des horodatages. Les vérifications manuelles ne sont pas infaillibles, mais elles restent la première ligne de défense pour repérer un deepfake d'un seul coup d'œil.
2. Analyse médico-légale par IA : Les classificateurs de réseaux neuronaux spécialement formés pour détecter les artefacts synthétisés peuvent analyser les motifs au niveau des pixels ou les domaines de fréquence. Le système signale les alignements ou les nuances de couleur non naturels en comparant la distribution normale des traits du visage avec les images suspectes. Certaines solutions utilisent des indices temporels, par exemple en suivant les micro-expressions d'une image à l'autre. Ces algorithmes de détection devraient également évoluer à mesure que les illusions deepfake de l'IA continuent de s'améliorer dans une course à l'armement perpétuelle.
3. Inspection des métadonnées et des Inspection EXIF : Si un fichier contient des métadonnées, l'horodatage de création ne correspond souvent pas à l'horodatage du fichier, les informations sur l'appareil sont erronées ou il y a des traces d'encodage et de réencodage. Les données EXIF sont également supprimées par certaines illusions avancées afin de dissimuler les traces. Bien que la plupart des clips légitimes aient des métadonnées de mauvaise qualité, des disparités soudaines suggèrent une altération. Une analyse plus approfondie, en particulier pour la vérification des entreprises ou des informations, est complétée par cette approche.
4. Interactions en temps réel (vérifications de vivacité et suivi des mouvements) : Grâce aux interactions en temps réel, telles que la capacité à réagir spontanément lors d'un appel vidéo en direct, les illusions peuvent être révélées ou confirmées. Si l'IA ne s'adapte pas assez rapidement, il y a des retards ou des anomalies faciales. Les cadres de détection du caractère vivant reposent généralement sur des micro-mouvements musculaires, des angles de tête ou des schémas de clignement aléatoires que les contrefaçons imitent rarement de manière cohérente. D'autres systèmes d'identification exigent que l'utilisateur bouge son visage d'une certaine manière, et si la vidéo ne peut pas suivre, le deepfake est démasqué.
5. Référence croisée avec les images originales : Si un clip suspect prétend qu'une personne est présente à un événement particulier ou prononce certaines phrases, la vérification de la source officielle peut soit confirmer, soit infirmer ce qui est affirmé. On trouve souvent des contenus discordants dans les communiqués de presse, les angles de caméra alternatifs ou les déclarations officielles que nous connaissons. Cette méthode combine la vérification standard des faits et la détection des deepfakes. À l'ère des canulars viraux, les médias traditionnels s'appuient désormais sur ces recoupements au nom de la crédibilité.

Applications des deepfakes

Si les deepfakes sont souvent présentés sous un jour négatif, ils peuvent également être utilisés pour produire des résultats précieux ou innovants dans différents secteurs. Les applications des deepfakes ne se limitent pas à des contrefaçons malveillantes, elles incluent également les arts créatifs et les outils spécialisés.

Voici cinq exemples illustrant comment les illusions basées sur l'IA peuvent être utilisées à des fins utilitaires et divertissantes, si elles sont utilisées de manière éthique.

1. Au cinéma, résurrections numériques : Les studios ressuscitent parfois un acteur décédé pour un caméo ou pour refaire des scènes sans recaster. Un modèle deepfake basé sur l'IA scanne des images d'archives et reconstruit les expressions faciales, puis les intègre de manière transparente dans de nouveaux contextes cinématographiques. Cette technique témoigne d'un grand respect pour les stars classiques, même si elle soulève des questions d'authenticité et de droits des acteurs. Mais lorsqu'elle est utilisée avec respect, elle combine nostalgie et magie avancée de l'imagerie de synthèse.
2. Localisation linguistique réaliste : Par exemple, les chaînes de télévision ou les services de streaming utilisent la réanimation faciale pour synchroniser les voix doublées avec les mouvements des lèvres des acteurs. L'approche Deepfake remplace le doublage vocal standard en faisant parler la langue locale à la star à l'écran, alignant ainsi les mouvements de la bouche. Cela favorise une immersion plus profonde auprès du public mondial et réduit les frais de réenregistrement. Bien que le concept vise à apporter une touche comique dans un cercle restreint, les grandes plateformes de contenu voient là un potentiel de distribution mondiale.
3. Formation et simulation en entreprise : Plusieurs entreprises créent des vidéos deepfake personnalisées pour la formation aux politiques et la sécurité interne. Elles peuvent montrer un PDG délivrant des messages de motivation personnalisés ou un scénario " à ne pas suivre " avec les visages réels des employés. Bien que cette approche soit à la limite de la manipulation, elle peut susciter davantage d'engagement. Clairement identifiée, elle clarifie " ce qu'est le deepfake dans un contexte d'entreprise ", en utilisant des illusions pour enseigner des leçons utiles.
4. Campagnes marketing personnalisées : Les marques expérimentent des illusions créées par l'IA qui saluent les utilisateurs par leur nom ou par celui des ambassadeurs de la marque, en répétant des phrases personnalisées. Elles utilisent une cartographie faciale avancée pour affiner l'engagement du public et associer divertissement et marketing. La commercialisation des deepfakes se situe à la frontière entre la nouveauté et l'intrusion, suscitant l'intérêt chez certains et des inquiétudes quant à la confidentialité et l'authenticité chez d'autres.
5. Récits dans les musées historiques ou culturels : Les musées ou les éducateurs peuvent animer des personnages historiques (Abraham Lincoln ou Cléopâtre) pour qu'ils prononcent des monologues dans des expositions immersives. Destinés à éduquer et non à tromper, ces deepfakes sont accompagnés d'avertissements. Le public peut ainsi voir " l'histoire vivante " et tisser des liens émotionnels avec les événements du passé. Les organisations contrôlent soigneusement l'utilisation des illusions afin de susciter la curiosité et de faire le lien entre les archives anciennes et le public moderne.

Comment les deepfakes sont-ils généralement utilisés ?

Les deepfakes ont des utilisations légitimes ou créatives, mais la question la plus courante est : " Comment les deepfakes sont-ils utilisés dans la vie réelle ? " Cette technique est si facile à utiliser qu'elle est de plus en plus répandue, que ce soit pour des échanges de visages comiques ou pour des usurpations d'identité malveillantes.

Ci-dessous, nous allons présenter des scénarios d'utilisation courants qui ont contribué à lancer le débat mondial sur ce que sont les deepfakes dans le domaine de l'IA.

1. Défis comiques d'échange de visages : TikTok ou Reddit sont des plateformes où l'on trouve toutes sortes de défis comiques d'échange de visages, où les utilisateurs se superposent à des chorégraphies ou à des scènes de films viraux. Ces illusions ludiques font rapidement le buzz et deviennent les meilleurs deepfakes à entrer dans la culture pop mainstream. Bien qu'elles soient inoffensives dans la plupart des cas, même les utilisations comiques peuvent involontairement donner lieu à la désinformation si elles ne sont pas signalées. Ce phénomène illustre l'acceptation désinvolte des illusions dans la vie quotidienne.
2. Pornographie non consensuelle : Un côté plus sombre apparaît lorsque les auteurs placent des personnes (souvent des célébrités ou d'anciens partenaires) dans des vidéos explicites sans leur consentement. Cette atteinte particulière à la vie privée utilise la technologie deepfake à des fins d'humiliation sexuelle ou de chantage. Le contenu se propage sur des plateformes douteuses, résistant à toute tentative de suppression. Le débat social est toujours vif, et nombreux sont ceux qui réclament des interventions juridiques strictes pour contenir cette exploitation abusive.
3. Communications commerciales frauduleuses : Un exemple est la réception d'un appel téléphonique semblant provenir d'un partenaire connu, qui est en réalité une duplication sophistiquée de la voix à l'aide de la technologie deepfake. Les attaques sont orchestrées sous forme de modifications finales des détails de paiement ou d'actions financières urgentes. Ces illusions parviennent à contourner les signaux d'alerte habituels des e-mails ou des SMS, car le personnel se fie à la " reconnaissance vocale ". Mais ce scénario de deepfake sentinelle est de plus en plus fréquent dans les registres de risques des entreprises à mesure que la technique mûrit.
4. Diffamation politique et propagande : Des discours manipulés ont été utilisés lors d'élections dans plusieurs pays où un candidat apparaît incompétent, corrompu ou haineux. Une courte vidéo virale peut façonner l'opinion publique avant que les canaux officiels ne puissent la discréditer comme étant inauthentique. Cela se fait rapidement, en utilisant le " facteur choc " et les réseaux sociaux axés sur le partage. Cette utilisation a un " pouvoir vidéo deepfake " qui sape la liberté d'expression et l'intégrité électorale.
5. Satire ou expression artistique basée sur l'IA : Bien qu'il existe des utilisations négatives de la technologie deepfake, certains artistes et comédiens l'utilisent pour divertir le public à l'aide de sketchs comiques, de courts métrages et de danses interprétatives. Ces œuvres d'art sont signalées comme des deepfakes afin que les spectateurs sachent que le contenu représenté est purement fictif. Ce type de divertissement offre aux créateurs la possibilité de dépeindre l'avenir, par exemple à l'aide de comédies musicales, où des personnages historiques sont représentés comme vivant à l'époque actuelle. Ces artistes ont réussi à familiariser le public avec l'IA générative et ses possibilités en l'utilisant de manière créative.

Menaces et risques liés aux deepfakes

Si la menace est suffisante pour influencer les opinions, ternir la réputation ou vider les caisses des entreprises, les organisations doivent avoir une idée claire de la menace sous-jacente.

Dans cette section, cinq menaces et risques majeurs liés aux deepfakes sont analysés afin de mettre l'accent sur les mesures avancées de détection et les politiques à mettre en place.

1. Appels vocaux synthétiques : Les cybercriminels utilisent des appels vocaux synthétiques provenant d'un " cadre supérieur " ou d'un " membre de la famille " qui fait pression sur la victime pour qu'elle agisse immédiatement (généralement pour transférer de l'argent ou divulguer des données). Un visage ou une voix familiers ont une crédibilité émotionnelle et permettent d'éviter la méfiance habituelle. Lorsque ces deux éléments sont combinés, ils perturbent les contrôles d'identité standard. Si le personnel se fie à une vérification minimale basée sur la voix, le risque pour les entreprises est élevé.
2. Propagande avancée ou opérations d'influence : Des personnalités publiques peuvent être présentées comme soutenant des idéologies extrémistes ou forgeant des alliances qu'elles n'ont jamais conclues. Les illusions dans les régions instables incitent à l'agitation ou à la panique et provoquent des émeutes ou sapent la confiance dans le gouvernement. Lorsque les faux sont dénoncés, l'opinion publique est déjà influencée. Il s'agit d'une atteinte à la véracité des médias audiovisuels qui rend les stratégies mondiales de " cybersécurité deepfake "".
3. Discréditer des preuves légitimes : À l'inverse, l'accusé peut nier l'authenticité d'une vidéo réelle montrant un acte répréhensible en la qualifiant de " deepfake ". Le problème avec ce phénomène est qu'il menace les systèmes juridiques en éclipsant des preuves vidéo crédibles par des allégations de " fausses nouvelles ". Cela transfère toutefois la charge de la preuve aux experts médico-légaux dans le cadre de procès complexes. Et avec le temps, le le " déni deepfake " pourrait devenir une stratégie de défense astucieuse dans les litiges pénaux ou civils graves.
4. Manipulation boursière : Une vidéo d'un PDG annonçant de fausses acquisitions ou des démentis peut faire monter ou baisser le cours des actions avant que les véritables démentis ne soient diffusés dans les médias. Les attaquants exploitent la viralité des réseaux sociaux et les illusions de timing à l'approche des fenêtres de négociation. Cette confusion provoque la panique ou l'euphorie sur les marchés, et les initiés ont alors la possibilité de vendre à découvert ou d'acheter des actions. Ces manipulations font partie des préoccupations en matière de cybersécurité liées aux deepfakes, qui peuvent avoir des effets désastreux sur les marchés financiers.
5. Baisse de confiance dans la communication numérique : Une fois que les illusions sont omniprésentes dans les médias numériques, les employés et les consommateurs commencent à douter des appels Zoom et des bulletins d'information. Les équipes qui demandent des vérifications en personne ou des contrôles d'identité à plusieurs facteurs pour des tâches courantes nuisent à la productivité. Le scénario plus large des " risques liés aux deepfakes " érode la confiance dans l'écosystème numérique et oblige les organisations et les plateformes à s'unir pour trouver des solutions d'authentification des contenus.

Exemples concrets de deepfakes

Au-delà de la théorie, les deepfakes ont fait leur apparition dans plusieurs incidents très médiatisés à travers le monde. Ces illusions ont des répercussions tangibles, allant des parodies comiques sur YouTube à des escroqueries sophistiquées visant des entreprises.

Vous trouverez ci-dessous quelques exemples illustrant l'influence des deepfakes dans divers domaines de la vie réelle.

1. Fraude deepfake impliquant Elon Musk : En décembre 2024, une fausse vidéo d'Elon Musk est apparue, affirmant qu'il offrait 20 millions de dollars en cryptomonnaie. La vidéo donnait l'impression que Musk faisait la promotion de cette distribution et incitait les spectateurs à envoyer de l'argent pour y participer. Cette fausse nouvelle a ensuite été partagée sur divers comptes de réseaux sociaux, et de nombreuses personnes l'ont prise pour vraie. Cet événement a soulevé des questions sur l'utilisation potentielle de la technologie deepfake à des fins frauduleuses et sur l'importance de développer une meilleure conscience pour distinguer les informations vraies des fausses.
2. Incident de deepfake chez Arup Engineering Company : En janvier 2024, la société britannique société de conseil en ingénierie Arup a été victime d'une fraude sophistiquée par deepfake, qui a coûté plus de 25 millions de dollars à l'entreprise. Les employés de la société ont été victimes de deepfakes lors d'une vidéoconférence au cours de laquelle les imposteurs se faisant passer pour leur directeur financier et d'autres employés ont autorisé plusieurs transactions vers des comptes bancaires à Hong Kong. Cet incident montre à quel point la technologie deepfake représente une menace sérieuse pour les entreprises et pourquoi il est nécessaire de mettre en place de meilleures mesures de sécurité au sein des organisations.
3. Deepfake Robocall de Joe Biden : En janvier 2024, un faux appel automatisé du président Joe Biden a été passé pour dissuader le public de voter aux primaires du New Hampshire. Cet extrait audio, dont la production coûte généralement 1 dollar, visait à influencer des milliers d'électeurs et a également suscité des débats sur l'équité des élections. Les autorités ont pu remonter jusqu'à un individu qui avait des griefs contre l'administration scolaire, ce qui démontre à quel point le deepfake peut être utilisé pour influencer les événements politiques.
4. Escroquerie par clonage vocal impliquant Jay Shooster : En septembre 2024, des escrocs ont réussi à imiter la voix de Jay Shooster lors de sa récente apparition à la télévision en utilisant seulement un échantillon de 15 secondes de sa voix. Ils ont appelé ses parents pour leur dire qu'il avait eu un accident et qu'il avait besoin de 30 000 dollars pour payer sa caution. Ce cas illustre comment la technologie de clonage vocal peut être utilisée dans des cas de fraude et de détournement de fonds.
5. Deepfake Audio Targeting Baltimore Principal : En avril 2024, un clip audio deepfake d'Eric Eiswert, directeur d'un lycée de Baltimore, a été diffusé dans les médias et sur les réseaux sociaux. Il contenait des propos racistes à l'égard de la communauté afro-américaine. Cela a suscité de nombreuses réactions négatives et menaces à l'encontre du directeur, qui a été suspendu jusqu'à ce que la fausse nouvelle soit démentie comme étant un deepfake. Cette affaire montre également la capacité des deepfakes à provoquer des troubles sociaux et à ternir la réputation d'une personne, même s'il s'agit de fausses informations.

L'avenir des deepfakes : défis et tendances

Avec les progrès de l'IA générative, les deepfakes se trouvent à un tournant, car ils peuvent soit renforcer la créativité dans la société, soit favoriser la fraude. Les experts estiment que dans les années à venir, le remplacement de visages dans les vidéoconférences commerciales se fera presque en temps réel, ce qui signifie qu'il sera largement adopté.

Voici cinq tendances décrivant l'avenir des deepfakes d'un point de vue technique et social.

1. Avatars en temps réel : Les utilisateurs pourront bientôt utiliser des GPU basés sur le cloud pour effectuer des opérations en temps réel sur le visage ou la voix lors de streaming ou d'appels de groupe. Les individus pourraient avoir de vrais corps synthétiques ou se transformer à la volée en n'importe quelle personne. Bien que ce concept soit assez humoristique, il soulève des questions d'identité et des menaces d'infiltration dans d'autres bureaux dispersés. Il devient crucial de garantir l'identification des participants au milieu de l'appel lorsqu'il s'agit de transformations deepfake.
2. Réglementation et normes d'authenticité du contenu : Préparez-vous à une législation nationale sur l'utilisation de clauses de non-responsabilité ou de " filigranes basés sur le hachage " dans les contenus générés par l'IA. Le projet de loi européen sur l'IA mentionne le contrôle des médias manipulés, tandis que les États-Unis encouragent la formation de partenariats entre les entreprises technologiques afin d'harmoniser les normes de détection. Ainsi, tout deepfake fourni au public devra être accompagné d'une clause de non-responsabilité. Cependant, l'application de ces lois reste un défi si les créateurs hébergent leurs illusions dans d'autres pays.
3. Blockchain et vérification cryptographique : Certains experts recommandent d'inclure des signatures cryptographiques lors de la création d'images ou de vidéos authentiques. Ils peuvent ensuite vérifier les signaux avec les messages prévus et s'assurer ainsi de leur authenticité. En cas d'absence ou de non-correspondance, la question se pose de savoir s'il s'agit simplement d'un faux ou d'un deepfake. Grâce à l'intégration de la création de contenu à la blockchain, le champ d'action des activités frauduleuses est réduit au minimum. Cependant, comme nous l'avons vu précédemment, l'adoption de cette technologie n'est possible que si elle bénéficie d'un large soutien de la part de l'ensemble du secteur.
4. Dualité de la détection des deepfakes basée sur l'IA : à mesure que les modèles génératifs deviennent plus sophistiqués, la détection doit ajouter des correspondances de modèles plus complexes et de multiples vérifications croisées. Elle peut capturer des micro-expressions, des changements d'éclairage ou des " traces d'IA ", qui ne sont pas discernables à l'œil nu. Cependant, les faussaires améliorent les réseaux neuronaux pour contourner ces vérifications, ce qui témoigne d'un cycle d'évolution perpétuel. Pour les organisations, la mise à jour des solutions de détection reste un élément important du concept de cybersécurité DeepFakes.
5. Frontières éthiques et artistiques en évolution : Outre les menaces, les possibilités créatives sont vastes. Les documentaires peuvent faire revivre des personnalités historiques pour des interviews en direct, ou permettre à un public mondial de regarder leur programme localisé en synchronisation labiale avec leur langue. La question se pose de savoir où l'on peut parler d'innovation et où l'on est victime d'une illusion créée pour manipuler nos pensées. À mesure que les Deepfakes se répandent, il devient crucial de les autoriser à des fins positives tout en veillant à ce qu'ils soient détectés lorsqu'ils sont utilisés à des fins négatives.

Conclusion

Les deepfakes sont un bon exemple de la manière dont l'IA peut être utilisée à des fins artistiques, mais aussi pour tromper le public. Ils progressent à un rythme rapide et placent les organisations et la société face à des scénarios d'invasion par les deepfakes, depuis hameçonnage aux appels téléphoniques du directeur général de l'entreprise à la diffusion de fausses vidéos de politiciens. Lorsque l'image de l'objet est plus crédible que l'objet lui-même, l'identification devient le fondement de la crédibilité numérique. Dans le même temps, les escrocs utilisent leurs meilleurs deepfakes pour éviter les contrôles d'identité ou diffuser de fausses informations. Pour les entreprises, trois étapes essentielles restent à franchir : la détection, l'élaboration de directives strictes et la formation du personnel afin de garantir une utilisation sûre de l'IA dans les médias. La bataille entre la création et la détection des illusions se poursuit, et il est essentiel de mettre l'accent sur l'approche multi-niveaux requise, qui commence par l'utilisateur et se termine par le scanner basé sur l'IA.

Nous espérons donc que vous avez maintenant obtenu la réponse à la question " qu'est-ce qu'un deepfake dans le domaine de la cybersécurité ? ". Mais une question subsiste : êtes-vous prêt à faire face aux dangers des faux générés par l'IA ? Si ce n'est pas le cas, choisissez les bonnes solutions et protégez votre entreprise contre la menace croissante des deepfakes dès aujourd'hui.

"