Si vous utilisez ChatGPT comme site privé de partage de pensées, comme outil de thérapie, comme partenaire de codage ou comme lieu de travail sur vos réflexions personnelles, réfléchissez-y à deux fois avant de cliquer sur « Envoyer ». Un rapport de 404 Media révèle qu'OpenAI emploie des centaines de personnes pour lire, résumer et analyser les conversations de ses utilisateurs. Bien qu'OpenAI insiste sur l'anonymat des comptes, des documents internes montrent que les analystes peuvent consulter l'intégralité des conversations et que des informations personnelles sensibles contournent régulièrement les mesures de sécurité automatisées de l'entreprise. Des documents internes révèlent que cette initiative de révision opère sous le nom de code interne « Projet Lily ». OpenAI fait appel à des prestataires externes, souvent à un tarif supérieur à 50 dollars de l'heure via des agences d'intérim, pour entraîner manuellement le chatbot et le rendre moins robotique. Ces prestataires lisent le message de l'utilisateur, résument son intention et évaluent quatre réponses possibles de l'IA sur une échelle de 1 à 7. D'après des guides de formation qui ont fuité, les examinateurs reçoivent des instructions précises : éliminer le « jargon de l'IA » : pénaliser les émojis de coche inutiles, les fins accrocheuses et la mise en forme désordonnée.

OpenAI affirme ne pas communiquer les noms d'utilisateur aux évaluateurs et que toutes les conversations passent par un « filtre de confidentialité » automatisé conçu pour masquer les informations d'identification. Cependant, ce système présente d'importantes failles de sécurité. OpenAI admet ouvertement sur son site web que son filtre peut commettre des erreurs en omettant des identifiants inhabituels ou un contexte personnel ambigu. De plus, 404 Media a constaté que le panneau affiché aux sous-traitants comprend souvent un « résumé des souvenirs de l'utilisateur ». Ce panneau offre un aperçu des interactions précédentes de l'utilisateur, ce qui peut révéler involontairement sa localisation générale, sa profession ou son contexte personnel. Contrairement aux réseaux sociaux publics, l'interface épurée et neutre du chatbot crée une fausse impression d'intimité. Certains messages consultés par les prestataires montraient même des utilisateurs demandant à ChatGPT de « garder cela pour eux », ignorant que cette instruction n'empêche pas la collecte de données par la plateforme. OpenAI n'est pas le seul géant de la tech à procéder ainsi. Anthropic a confirmé avoir recours à des relecteurs humains pour Claude lorsque les utilisateurs quittent le mode d'entraînement, et Gemini de Google affiche explicitement un avertissement indiquant que des relecteurs humains lisent certaines conversations enregistrées.

Si vous possédez un compte personnel (gratuit, Plus ou Pro), OpenAI active par défaut l'amélioration des modèles. (Cette fonctionnalité est automatiquement désactivée pour les comptes Entreprise, Business et Éducation.) Veuillez noter que le refus de participation n'est pas rétroactif. Il ne protège que les nouvelles conversations ; les messages déjà anonymisés et mis en file d'attente dans le système restent intégrés au cycle de formation. De plus, la désactivation de cette option n'empêche pas l'analyse automatique des violations de nos conditions d'utilisation ou de nos politiques de sécurité.