OpenAI affirme que la dernière version de ChatGPT est capable de reconnaître les problèmes de santé mentale des utilisateurs et d'y répondre avec une précision comparable à celle d'un professionnel de la santé mentale. L'entreprise a collaboré avec plus de 170 professionnels de la santé mentale issus de 60 pays, ce qui a permis de réduire de 65 à 80 % le nombre de réponses inappropriées dans différents domaines. En travaillant avec un groupe de psychiatres, de psychologues et d'autres professionnels de la santé, OpenAI a développé des solutions permettant de définir précisément les réactions appropriées et celles qui sont néfastes dans une situation donnée. Ainsi, ChatGPT est conçu pour reconnaître les signes subtils de stress et y répondre de manière adaptée. Selon OpenAI, GPT-5 reconnaît désormais mieux la psychose et la manie, deux troubles mentaux graves. Le modèle gère également plus efficacement les conversations sur l'automutilation et le suicide, témoignant ainsi d'une plus grande empathie et d'une meilleure compréhension de ces problématiques.

Il relève également des schémas inquiétants de dépendance affective lorsqu'un utilisateur commence à substituer des interactions avec l'IA à ses relations réelles. Dans un exemple de pensée délirante, où un utilisateur croit qu'un avion lui vole ses pensées, le nouveau modèle combine une validation subtile avec un ancrage explicite dans la réalité. Elle ne minimise pas la peur de l'utilisateur ni ne confirme une croyance erronée. Au contraire, elle normalise l'expérience en expliquant que « le stress et l'anxiété peuvent rendre des choses normales hostiles », en expliquant ce qui peut se produire sur le plan neurologique, en enseignant des techniques d'ancrage et en recommandant de contacter les services appropriés.

OpenAI a également fourni des statistiques sur ces conversations. Comparé à GPT-4o, le nouveau modèle a réduit de 39 % le nombre de réponses inappropriées dans les conversations sur la santé mentale, de 52 % dans celles portant sur l'automutilation et le suicide, et de 42 % dans les scénarios de dépendance affective. Dans les évaluations automatisées des cas difficiles, les performances sont passées de 28 % à 92 % de concordance dans les catégories de santé mentale et de 50 % à 97 % dans les tests liés à la dépendance émotionnelle. L'entreprise a indiqué que 0,07 % des utilisateurs actifs hebdomadaires consultent du contenu sur la psychose ou la manie, 0,15 % abordent le suicide ou l'automutilation et 0,15 % présentent des signes d'un attachement malsain à l'IA.