La documentation de Microsoft Copilot contient un avertissement qui sonne comme une douche froide pour les utilisateurs comptant sur une assistance fiable. Microsoft précise que Copilot est un outil de divertissement uniquement et peut contenir des erreurs. Il ne doit donc pas être considéré comme une source de conseils ou de décisions importantes. Les dispositions qui ont récemment retenu l'attention des internautes ne sont pas nouvelles, mais leur importance est difficile à ignorer. Le document destiné aux particuliers stipule clairement que l'utilisation de Copilot se fait à leurs propres risques. Ce message contredit l'image marketing de l'IA comme assistant numérique prêt à faciliter le travail, les études et les tâches quotidiennes. D'un côté, un outil présenté comme une aide intelligente, et de l'autre, une mise en garde officielle quant à ses limites. Microsoft a toujours été transparent quant à la possibilité d'erreurs dans son assistant. Lors des démonstrations publiques des fonctionnalités de Copilot, des rappels sont systématiquement inclus afin d'inciter les utilisateurs à vérifier leurs réponses. Cette approche ne se limite pas à un seul produit. L'ensemble du secteur de l'intelligence artificielle est confronté au problème de l'hallucination des modèles : la génération de réponses qui semblent plausibles mais qui sont déconnectées de la réalité. Concrètement, cela signifie que même le chatbot le plus sophistiqué peut fournir une réponse exacte à un instant donné, puis commettre une grave erreur l'instant d'après.

Des problèmes particuliers se posent dans les applications exigeant une grande précision. Les conseils médicaux, les décisions financières et les analyses juridiques sont des domaines où des informations erronées peuvent avoir de graves conséquences. Microsoft souligne que Copilot ne doit pas être utilisé comme unique source d'information dans ces situations. Il s'agit d'un message important pour les utilisateurs, qui considèrent de plus en plus l'IA comme une experte. La polémique autour des conditions générales de Copilot s'est rapidement étendue à d'autres services d'IA. Les internautes ont pointé du doigt des clauses similaires chez les concurrents, où même les abonnements payants ne garantissent pas l'utilisation des outils dans des applications professionnelles. D'un côté, les entreprises proposent des outils performants, mais de l'autre, elles en limitent l'usage par des clauses légales, ou se protègent tout simplement contre les accusations et les poursuites.

Les versions de Copilot disponibles en environnement de bureau, comme les intégrations à Microsoft 365, ne sont pas non plus exemptes de défauts. La différence réside dans le fait que, dans ces cas-là, les utilisateurs sont plus enclins à utiliser l'IA pour des tâches professionnelles concrètes. L'avertissement de Microsoft peut être interprété comme une tentative de modérer les attentes concernant l'intelligence artificielle. Copilot n'est ni un expert, ni un conseiller, ni un système d'aide à la décision. C'est un outil qui peut assister le jugement humain, mais il ne le remplace pas.