L’Intelligence Artificielle générative : prochaine frontière des attaquants ?

L’IA générative

Les lancements successifs de grands modèles de langages comme ChatGPT d’OpenAI, Google Bard ou Microsoft Bing AI marquent le début d’une prise de conscience planétaire des atouts mais aussi des enjeux énormes posés par l’utilisation de l’IA dans notre quotidien.

Tout comme leur arrivée fait craindre le pire dans de nombreux domaines, les IA conversationnelles et ou génératives ont aussi mis en évidence l’existence de risques numériques décuplés lorsque leur usage est détourné.

Si l’Intelligence Artificielle a trouvé depuis longtemps sa place au sein des solutions de cybersécurité (en particulier à travers l’apprentissage profond), les attaquants, eux, pourraient bien se tourner plutôt vers la dernière incarnation populaire du domaine : les IA dites “génératives”, capables de produire rapidement et aisément texte et images de manière bluffante.

Au-delà des grands noms du domaine que sont ChatGPT (OpenAI), Bard (Google) ou Bing AI (Microsoft), une multitude de nouveaux services basés sur l’IA générative a émergé en quelques mois, dont certains même spécifiquement destinés aux cybercriminels, qui en font la promotion sur des comptes Telegram dédiés.

Ainsi, “des plateformes de Phishing as a Service, telle la plateforme illégale Greatness, ont vu le jour dès 2022, offrant de créer des pages et e-mails avec pièces jointes aux couleurs de l’entreprise cible. Plus besoin d’être un hacker chevronné pour attirer des victimes via l’entreprise de son choix. Plusieurs médias français, dont Le Parisien et Ouest France, ont récemment fait face à ce fléau, mêlant réseau complotiste, voleurs de données et groupes d’attaquants proches de l’État russe”, explique Romain Basset, Vade.

Les récents progrès des IA génératives en matière de son et de vidéo – elles sont désormais capables d’imiter n’importe quelle voix à partir de 3 secondes d’enregistrement et d’animer les lèvres de n’importe quelle personne filmée en vidéo pour lui faire dire n’importe quoi, dans sa propre voix – laissent craindre, notamment, une recrudescence des attaques de type fraude au président.

Les IA génératives offrent ainsi aux criminels un effet levier important, leur permettant de démultiplier le nombre de tentatives de fraude, avec des textes, des images, des vidéos et même des sites web convaincants, entièrement produits par l’IA, et en utilisant le jargon professionnel de la cible.

Lorsqu’elle est utilisée de manière responsable et qu’elle est encadrée par des dispositifs de gouvernance adéquats, l’intelligence artificielle générative offre aux entreprises divers avantages, allant de l’automatisation des processus aux solutions d’optimisation.

“Face à l’utilisation croissante de l’intelligence artificielle, les RSSI jouent un rôle essentiel dans sa mise en oeuvre et son adoption. Pour cela, ils doivent anticiper les risques liés à la création de contenu par l’IA et les menaces de sécurité que les attaquants font peser sur l’IA” explique Arnaud Lemaire, F5.

Poursuivez votre lecture avec nos différents articles sur les sujets du moment en cybersécurité.

Partager cet article

Nos billets d’humeur les plus lus

A l’ère du deepfake politique, nos démocraties sont-elles en danger ?

Utilisée par les candidats pour mener leur campagne, ou pour déstabiliser un adversaire,…

Comment réinventer la cybersécurité à l’ère de l’IA ?

Jeux Olympiques, élections... 2024 : une actualité favorable à l'accélération de l’IA.……

Cyber security copywriter : Comment réussir son copywriting en cybersécurité ?

Cyber security copywriter : Comment réussir son copywriting en cybersécurité ?

Sur le marché, de multiples éditeurs et intégrateurs se livrent une véritable bataille…