Les chercheurs de Tenable ont découvert sept failles de sécurité critiques dans ChatGPT-4o qui pourraient permettre aux cybercriminels de dissimuler des commandes malveillantes, de voler des données et de diffuser de la désinformation. Baptisée « HackedGPT », cette série de vulnérabilités constitue une chaîne d'attaque complète contre le célèbre chatbot. Parmi les problèmes détectés figure l'injection indirecte de requêtes via des sites de confiance, où des attaquants peuvent dissimuler des commandes sur des sites web publics que ChatGPT exécute à l'insu de l'utilisateur lors de la lecture du contenu. Une attaque particulièrement dangereuse est l'attaque « zéro clic », dans laquelle le modèle recherche automatiquement sur Internet une page contenant du code malveillant et exécute des instructions cachées sans que l'utilisateur ne s'en aperçoive. Parmi les autres vulnérabilités, citons une attaque de phishing par clic sur un lien contenant des commandes GPT cachées, le contournement des mécanismes de sécurité par encapsulation de liens malveillants dans des adresses de confiance et « l'injection de conversation » - l'utilisation de SearchGPT pour insérer des instructions cachées que ChatGPT lit ensuite, s'attaquant ainsi lui-même.

Les chercheurs ont également découvert que des instructions malveillantes peuvent être dissimulées dans du code ou du texte Markdown et stockées dans la mémoire de la conversation, ce qui entraîne une fuite de données persistante à chaque fois que la conversation enregistrée est lancée. OpenAI a réagi au rapport et corrigé certaines des vulnérabilités découvertes dans le modèle GPT-5, mais toutes n'ont pas été résolues, exposant ainsi des millions d'utilisateurs à des menaces potentielles. Ce problème affecte également d'autres chatbots : Gemini de Google est vulnérable à des attaques similaires via son intégration avec Gmail, permettant aux attaquants d'envoyer des courriels contenant des messages cachés (par exemple, du texte blanc sur fond blanc). HackedGPT révèle une faille fondamentale dans la manière dont les grands modèles de langage évaluent la fiabilité des informations. Par conséquent, il est toujours nécessaire de surveiller l'activité des quelques scripts que nous exécutons.