C’est à l’occasion du CES 2024 que McAfee a révélé une technologie pionnière de détection audio deepfake basée sur l’IA, le projet Mockingbird.

Cette technologie exclusive vise à défendre les consommateurs contre la menace croissante des cybercriminels qui utilisent des fichiers audio fabriqués et générés par l’IA à des fins d’escroquerie, de cyberintimidation et de manipulation d’images de personnalités publiques.

Les avancées en intelligence artificielle ont donné aux criminels la possibilité de mettre en place des escroqueries convaincantes, comme le clonage vocal pour se faire passer pour un membre de la famille demandant de l’argent ou la manipulation de vidéos authentiques avec des imitations bon marché. Ces techniques altèrent le contenu pour induire en erreur les individus, ce qui complique la tâche des consommateurs qui doivent distinguer les informations authentiques des manipulations.

En réponse à ce défi, McAfee Labs a développé un modèle d’IA de pointe, faisant partie de la technologie Project Mockingbird, pour détecter l’audio généré par l’IA. Cette technologie utilise des modèles de détection contextuels, comportementaux et catégoriels, atteignant un taux de précision impressionnant de 90 %.

Steve Grobman, CTO chez McAfee, a déclaré : « Tout comme les prévisions météorologiques indiquant un risque de pluie de 70 % vous aident à planifier votre journée, notre technologie vous fournit des informations qui vous permettent de prendre des décisions éclairées quant à savoir si le contenu est ce qu’il semble être. »

Le projet Mockingbird propose diverses applications, allant de la lutte contre les escroqueries générées par l’IA à la lutte contre la désinformation. En permettant aux consommateurs de faire la distinction entre le contenu authentique et le contenu manipulé, McAfee vise à protéger les utilisateurs contre les victimes de stratagèmes frauduleux et à garantir une expérience numérique sécurisée.

À mesure que la technologie des deepfakes devient plus sophistiquée, les inquiétudes des consommateurs augmentent. L’enquête Deepfakes de McAfee de décembre 2023 met ça en évidence :

84 % des Américains sont préoccupés par l’utilisation des deepfakes en 2024. 68 % sont plus préoccupés qu’il y a un an. 33 % ont été victimes ou témoins d’une escroquerie deepfake, dont 40 % parmi les 18 à 34 ans. Les principales préoccupations incluent l’influence électorale (52 %) , atteinte à la confiance du public dans les médias (48 %), usurpation d’identité de personnalités publiques (49 %), prolifération d’escroqueries (57 %), cyberintimidation (44 %) et création de contenu sexuellement explicite (37 %).

Conclusion:

Le dévoilement par McAfee du projet Mockingbird marque une avancée significative dans la lutte en cours contre les menaces générées par l’IA. Alors que des pays comme les États-Unis et le Royaume-Uni entrent dans une année électorale charnière, il est crucial que les consommateurs aient les meilleures chances possibles de lutter contre l’influence omniprésente de la technologie des deepfakes.