L’utilisation de vidéos deepfake pour escroquer des employés à Hong Kong met en lumière les dangers de cette technologie. Les deepfakes sont des médias manipulés numériquement qui semblent authentiques, mais qui peuvent être utilisés de manière malveillante pour induire en erreur et causer des dommages financiers importants. Sans réglementations adéquates, les organisations restent vulnérables à de telles escroqueries.

Les deepfakes sont devenus de plus en plus courants et sophistiqués, comme le montrent les récentes affaires médiatisées. Leur utilisation peut avoir des conséquences graves, allant de la diffusion de fausses informations à des escroqueries financières. Il est crucial de sensibiliser le public à la manipulation potentielle des médias par le biais des deepfakes.

Les cybercriminels exploitent les deepfakes pour contourner les mesures de sécurité, comme l’authentification vocale dans le secteur bancaire. Cette utilisation de la technologie met en évidence la nécessité pour les entreprises de renforcer leurs protocoles de sécurité pour se protéger contre de telles attaques sophistiquées.

Les attaques de spear phishing utilisant des deepfakes ciblent la confiance des proches des individus pour les inciter à effectuer des transferts de fonds. Cette forme d’attaque souligne l’importance de la vigilance et de la vérification des identités lors de toute transaction financière, même avec des contacts familiers.

Les réglementations en cours visant à contrôler l’utilisation des deepfakes soulignent la nécessité de protéger les individus et les organisations contre les abus potentiels de cette technologie. Ces mesures sont essentielles pour prévenir les escroqueries et garantir la sécurité des communications et des transactions en ligne.

Pour protéger les employés et la réputation de la marque contre les deepfakes, les dirigeants doivent respecter les étapes suivantes :

• Éduquez continuellement les employés, à la fois sur les escroqueries basées sur l’IA et, plus généralement, sur les nouvelles capacités de l’IA et leurs risques.
• Mettez à niveau les conseils en matière de phishing pour inclure les menaces deepfake. De nombreuses entreprises ont déjà sensibilisé leurs employés aux e-mails de phishing et les ont exhortés à la prudence lorsqu’ils reçoivent des demandes suspectes via des e-mails non sollicités. Ces conseils en matière de phishing devraient intégrer les escroqueries deepfake basées sur l’IA et noter qu’elles peuvent utiliser non seulement du texte et des e-mails, mais également des vidéos, des images et de l’audio.
• Augmentez ou calibrez de manière appropriée l’authentification des employés, des partenaires commerciaux et des clients. Par exemple, utiliser plus d’un mode d’authentification en fonction de la sensibilité et du risque d’une décision ou d’une transaction.
• Considérez les impacts des deepfakes sur les actifs de l’entreprise, comme les logos, les personnages publicitaires et les campagnes publicitaires. Ces actifs de l’entreprise peuvent facilement être reproduits à l’aide de deepfakes et se propager rapidement via les réseaux sociaux et d’autres canaux Internet.
• Réfléchissez à la manière dont votre entreprise va atténuer ces risques et éduquer les parties prenantes. Attendez-vous à des deepfakes plus nombreux et de meilleure qualité, compte tenu du rythme d’amélioration de l’IA générative, du nombre de processus électoraux majeurs en cours en 2024 et de la facilité avec laquelle les deepfakes peuvent se propager entre les personnes et au-delà des frontières.

Même si les deepfakes constituent un problème de cybersécurité, les entreprises doivent également les considérer comme un phénomène complexe et émergent ayant des répercussions plus larges. Une approche proactive et réfléchie de la lutte contre les deepfakes peut contribuer à éduquer les parties prenantes et à garantir que les mesures visant à les combattre sont responsables, proportionnées et appropriées.