Après qu'Anthropic a prévenu les forces de l'ordre du projet d'une utilisatrice de tirer sur le shériff du comté de Lee, en Floride, la question se pose une nouvelle fois de savoir si les entreprises d'IA lisent toutes les conversations des utilisateurs.

Ils sont un simple assistant pour certains, un confident pour d'autres. Ils, ce sont les chatbots, que nombre d'utilisateurs voient comme bien plus qu'un outil, n'hésitant pas à partager avec eux leurs moindres pensées et secrets. À leurs risques et périls car ce n'est pas parce que ces robots conversationnels sont les seuls à leur répondre qu'ils sont les seuls à voir leurs messages.

"Les utilisateurs doivent comprendre qu'ils ne sont jamais totalement anonymes, notamment dans les forums de discussion et les recherches utilisant l'IA", a rappelé le shérif du comté de Lee, en Floride, au magazine américain Inc. Avec ses équipes, il a récemment arrêté une femme de 30 ans qui avait dévoilé à Claude, l'IA d'Anthropic, son intention de le tuer. La start-up a cependant pu leur transmettre ces messages problématiques avant qu'elle ne passe à l'acte.

Cela ne veut cependant pas dire que les entreprises d'IA ont accès à toutes les conversations des utilisateurs. Loin de là.

Éviter les situations préjudiciables...

Comme Anthropic l'a expliqué, elle utilise des systèmes de surveillance et de détection pour faire respecter sa politique d'utilisation. C'est aussi le cas d'OpenAI, qui a révélé en août 2025 qu'elle analysait les discussions des utilisateurs avec ChatGPT pour repérer les propos inquiétants ou préjudiciables (suicide, automutilation, violence...) pour eux-mêmes ou autrui.

Google indique également dans son guide sur la confidentialité dans les applications Gemini que des humains peuvent examiner les conversations "afin de contribuer à maintenir la sécurité de Gemini pour tous, et de traiter les cas de non-respect des Conditions d'utilisation de Google".

placeholder video

Autrement dit, ce sont les contenus problématiques qui intéressent ces entreprises. "Lorsque nous détectons des utilisateurs qui envisagent de nuire à autrui, nous acheminons leurs conversations vers des canaux spécialisés où elles sont examinées par une petite équipe formée sur nos politiques d'utilisation et habilitée à prendre des mesures, y compris le bannissement de comptes", avait détaillé OpenAI à l'époque.

Ce sont ensuite ces examinateurs humains qui, après analyse, décident s'il est nécessaire ou non de prévenir les forces de l'ordre. C'est ce qui s'est passé avec Anthropic. De même, lorsque le système d'examen d'OpenAI a signalé le profil de l'auteure de la tuerie de Tumbler Ridge, au Canada, plusieurs employés ont appelé la direction de l'entreprise à prévenir les forces de l'ordre. Mais celle-ci en a décidé autrement, estimant que les déclarations de la tueuse ne nécessitaient pas d'alerter les autorités.

... et améliorer les modèles

Outre les contenus problématiques, les conversations des utilisateurs avec les chatbots peuvent être analysées par des humains pour une tout autre raison: améliorer les modèles d'IA. "Les réviseurs déterminent si les réponses des applications Gemini sont de mauvaise qualité, inexactes ou nuisibles, et suggèrent de meilleures réponses. Nous utilisons ensuite ces suggestions pour aider nos modèles à proposer de meilleures réponses", explique Google dans son guide.

Mais encore une fois, cela ne veut pas dire que tous les échanges avec les chatbots sont concernés. Le géant américain précise d'ailleurs que seulement "un sous-ensemble de discussions" est vérifié par ces derniers. Et les utilisateurs ont toujours la possibilité de refuser que leurs messages soient exploités dans cet objectif. Que ce soit avec ChatGPT, Claude ou Gemini, ils peuvent s'opposer à cette utilisation depuis les réglages.

Sujets liés :