OpenAI a été accusée à plusieurs reprises ces derniers mois de vérifier l'âge d'utilisateurs mineurs, une pratique qui a déjà conduit à des drames . L'entreprise a donc décidé de rejoindre le nombre croissant d'entreprises technologiques qui accordent une importance grandissante à la vérification de l'âge. Les développeurs de ChatGPT ont entamé le déploiement mondial d'un outil de prédiction d'âge destiné à déterminer si une personne est mineure. Cette mesure constitue une nouvelle étape vers des restrictions plus strictes et ouvre la voie à des fonctionnalités inédites et plus controversées. Le nouveau système ne repose pas sur un seul paramètre. Le modèle analyse un ensemble de signaux comportementaux et de données de compte, comme l'ancienneté du profil, les heures d'activité habituelles, les habitudes d'utilisation à long terme et l'âge déclaré par l'utilisateur. Sur cette base, ChatGPT détermine si une personne est susceptible d'être mineure. Si l'algorithme commet une erreur et considère un utilisateur adulte comme mineur, la seule solution est la vérification d'identité. OpenAI exige la soumission d'un selfie via la plateforme tierce de vérification d'âge et d'identité Persona.

Jusqu'à présent, l'industrie de l'IA a souvent été critiquée pour privilégier la mise en œuvre de nouvelles fonctionnalités et n'instaurer des mesures de protection qu'en cas de problèmes réels. OpenAI s'est elle-même retrouvée au cœur d'une polémique suite à une plainte déposée après le décès d'un adolescent qui aurait utilisé ChatGPT pour planifier son suicide. Ce n'est qu'après cet incident que l'entreprise a commencé à envisager des restrictions automatiques de contenu pour les jeunes utilisateurs et à créer un comité consultatif sur la santé mentale. Les mesures actuelles se veulent plus préventives que réactives, même s'il est difficile de ne pas avoir l'impression qu'elles sont dictées par les pressions réglementaires et sociétales. La vérification de l'âge est également liée à l'introduction prévue d'un mode dit « adulte », qui permettra la création et la consultation de contenus jugés inappropriés au travail. Cependant, cela soulève des questions quant à l'efficacité de l'ensemble du système. L'expérience d'autres plateformes, comme Roblox, montre que les jeunes utilisateurs parviennent souvent à contourner les mesures de sécurité s'ils sont déterminés à accéder aux fonctionnalités « adultes ».