Les textes générés par l'IA devraient entraîner une augmentation des cyber-risques

Communiqué de presse  | 11.01.2023

Une étude révèle que les modèles GPT-3 (Generative Pre-trained Transformer 3) peuvent être utilisés à des fins malveillantes. Face à ces nouveaux dangers, les utilisateurs doivent redoubler de vigilance.

Rueil-Malmaison – 11 janvier 2023 – Désormais, des systèmes capables de synthétiser des textes à consonance humaine en quelques secondes sont accessibles au grand public. Selon une nouvelle recherche de WithSecure™ (anciennement connu sous le nom de F-Secure Business), il s’agit d’un véritable tournant dans l'histoire de l'humanité.

Cette recherche, récemment publiée sur le blog de WithSecure Labs, décrit plusieurs expériences menées sur les modèles linguistiques GPT-3. Les chercheurs ont utilisé ces modèles pour créer plusieurs textes jugés nuisibles : contenus malveillants, fake news, phishing, spear-phishing, harcèlement, validation sociale des escroqueries, appropriation d'un style d'écriture donné et création d'opinions délibérément divisées.

En déterminant comment les modèles d’IA linguistique peuvent être détournés par les criminels, les chercheurs de WithSecure ont souhaité aider à la création de modèles mieux sécurisés.

« Tout individu disposant d'une connexion internet peut désormais accéder à de puissants modèles GPT-3. Cette nouvelle réalité a des conséquences très concrètes : dorénavant, n'importe quel texte que vous recevez est susceptible d'avoir été écrit par un robot » explique Andy Patel, Intelligence Researcher chez WithSecure et auteur de ses recherches. « De futurs modèles plus sûrs seront créés à l'avenir mais ceux que nous venons de tester resteront encore longtemps accessibles et ils sont synonymes de risques potentiels. »

En se basant sur l'évolution des modèles de GPT-3 et sur les réponses synthétisées par les modèles linguistiques, les chercheurs ont abouti aux conclusions suivantes :

  • À terme, les PC seront capables d'exécuter de grands modèles linguistiques sans filtre de sécurité.
  • Les grands modèles linguistiques permettent déjà aux criminels d'optimiser les communications ciblées utilisées dans leurs attaques.
  • L'ingénierie de synthèse se développera en tant que discipline à part entière, tout comme la création assistée de charges malveillantes.
  • Les méthodes de détection des contenus synthétiques ne sont pas fiables. Face aux nouveaux modèles linguistiques, ces méthodes pourraient encore perdre en efficacité.
  • Les nouveaux modèles linguistiques parviendront à maîtriser certains risques mais ils n'empêcheront pas toutes les utilisations malveillantes possibles.
  • Pour repérer les contenus malveillants, il sera nécessaire de développer des stratégies de détection capables de comprendre le sens et l'objectif des textes.

« Nous avons commencé cette recherche avant que ChatGPT ne mette la technologie GPT-3 à la disposition de tous », a déclaré Andy Patel. « La mise en ligne de ChatGPT est un véritable bouleversement qui nous a appelé à redoubler d’efforts dans notre recherche car dorénavant, nous vivons dans un monde comparable au film Blade Runner. Désormais, pour chaque message reçu, les utilisateurs sont en droit de se demander s’ils ont affaire à une personne ou à une intelligence artificielle. »

Le blog post est disponible à l’adresse suivante : https://labs.withsecure.com/publications/creatively-malicious-prompt-engineering.

Relations médias WithSecure™
Françoise Amon KOUTOUA
06 43 62 98 12

 

L’Agence RP

Justine Boiramier - justine@lagencerp.com - 06 50 31 86 24

Lucille Lavigne – lucille@lagencerp.com

Mélina Dahmane – melina@lagencerp.com

À propos de WithSecure™

WithSecure™ est le partenaire européen de référence en matière de cybersécurité depuis plus de 30 ans. Nous accompagnons les fournisseurs de services informatiques, les MSSP et des multinationales, qui nous font confiance, à travers des modèles commerciaux flexibles et adaptés au marché. Nous leur fournissons une cybersécurité axée sur les résultats, pour les protéger en toutes circonstances et garantir le bon fonctionnement de leurs activités. Notre protection basée sur l'IA sécurise les endpoints et protège les environnements cloud. Nos outils intelligents de détection et de réponse sont pilotés par des experts qui identifient les risques, assurent une recherche proactive des menaces et neutralisent les attaques en temps réel. Un service de consulting expert est également disponible pour les entreprises qui souhaitent renforcer leur résilience.

WithSecure™, anciennement F-Secure Corporation, a été fondée en 1988 et est cotée au NASDAQ OMX Helsinki Ltd.