« Des garde-fous plus solides sont nécessaires » : quand l’IA de Go...
Imaginez que vous entendiez par hasard dans un bus que le conseil municipal prévoit de mettre en place de nouvelles restrictions dans le cadre d'un programme d'urbanisme intitulé « 15-minute cities » ou en français « villes de 15 minutes ». Intrigué, vous effectuez une recherche sur Google avec ce terme.
Il y a de fortes chances qu'en haut de la page de résultats apparaisse un texte généré par l'IA résumant les résultats de la recherche. Ce texte synthétise le contenu de diverses pages web qui répondent à des requêtes spécifiques. Ces textes apparaissent de plus en plus souvent, non seulement sur Google, mais aussi sur d'autres moteurs de recherche, et les utilisateurs ont désormais tendance à ne plus lire la page de résultats au-delà de ce texte généré par l'IA.
Mais que se passerait-il si la réponse générée par l'IA - le seul résultat de recherche que les utilisateurs pourraient voir - avançait avec assurance des affirmations trompeuses ou erronées ? Ou si elle renforçait des idées complotistes suggérées par des termes de recherche favorables aux théories du complot ?
Notre nouvelle étude, publiée dans la revue Media International Australia, montre que c'est parfois le cas des résumés générés par l'IA de Google. Elle souligne que des garde-fous plus solides sont nécessaires pour lutter contre la propagation de théories du complot dangereuses.
Zoom sur deux théories du complot
Nous nous sommes intéressés à deux théories du complot : les « chemtrails » et les « villes de 15 minutes ».
La théorie des « chemtrails » existe depuis les années 1990. Ses adeptes interprètent principalement les traînées de condensation laissées par les avions comme des programmes de modification météorologique ou climatique à grande échelle.
En 2015, des chercheurs avaient interpellé Google pour avoir donné de la visibilité aux croyances complotistes autour des chemtrails. En réponse, l’entreprise avait relégué au second plan les résultats de recherche problématiques.
Les théories du complot entourant les « villes de 15 minutes » sont relativement plus récentes. Ce terme a été initialement inventé pour désigner un modèle d'urbanisme efficace. Mais pour les adeptes du complot, ces projets représentent un agenda mondialiste et malfaisant de l'élite, visant à surveiller et contrôler les habitants grâce à la technologie.
L'étude s'est intéressée à deux théories du complot dont les « chemtrails ». © Walter Gelersperger, Getty Images
Comparaison des résultats de recherche
Nous avons élaboré des requêtes de recherche reflétant ces croyances complotistes ainsi que les habitudes générales de recherche sur ces mêmes sujets (en nous appuyant sur des forums ouverts et sur Google Trends pour les exemples de requêtes). Nous avons ensuite collecté des données issues de la première page des résultats de recherche Google pendant une semaine en janvier 2026.
Nous avons comparé les résumés générés par l'IA, les sources vers lesquelles ils renvoient et les listes classiques de résultats de recherche pour les deux théories du complot et les deux types de requêtes.
Nous avons constaté que les requêtes de recherche reflétant des croyances complotistes généraient des résumés générés par l'IA sensiblement différents de ceux obtenus avec des requêtes ne contenant pas de mots favorables au complot. Cela s'est avéré particulièrement vrai lorsque la requête portait sur des récits moins connus ou intégrait des mots pouvant suggérer que l'internaute croyait au complot - par exemple, en recherchant « ségrégation urbaine en 15 minutes » plutôt que simplement « villes de 15 minutes ».
Avec AI Overviews, Google ne renvoie plus seulement vers le Web : il commence à le remplacer
C’est la fin d’une exception française. Les irréductibles Gaulois seront désormais logés à la même enseigne que le reste du monde. Pour certains, il s’agit d’une excellente nouvelle qui met fin à une discrimination qui a duré deux ans. Pour d’autres, la fin d’un répit et les portes ouvertes à une désinformation à grande échelle.... Lire la suite
La bonne nouvelle est que, pour les cas bien établis, tels que les « chemtrails », les résumés générés par l'IA mentionnent très rarement la théorie du complot. De manière générale, pour les deux sujets, les résumés générés par l'IA pour les recherches « complotistes » ont réfuté les croyances complotistes.
La mauvaise nouvelle, c'est que ces démystifications restent superficielles. Elles se limitent souvent à affirmer que les théories du complot relèvent de la « désinformation ». Or, pour empêcher la propagation de ces discours, il faut présenter aux personnes qui recherchent des informations à leur sujet des arguments factuels et logiques qui les réfutent.
Il est préoccupant de constater que les résumés générés par l'IA concernant le cas moins établi des « villes de 15 minutes » ont activement encouragé des croyances conspirationnistes, même lorsqu'ils réfutaient la théorie du complot dans certains cas. Sur ce sujet, 12,5 % des résumés générés par l'IA que nous avons analysés présentaient ces fausses allégations comme l'un des aspects d'un débat légitime. Par exemple, en réponse à notre requête « Villes de 15 minutes contre contrôle des villes intelligentes », le résumé généré par l'IA contenait ce qui suit :
Recoupement : une « ville des 15 minutes » peut être intelligente en recourant à la mobilité intelligente et à l'[Internet des objets] pour gérer efficacement ses ressources locales, mais une ville intelligente ne devient pas automatiquement une « ville des 15 minutes ». En substance, considérez la « ville des 15 minutes » comme le « quoi » (un aménagement favorisant la qualité de vie) et la ville intelligente comme un « comment » potentiel (la technologie permettant de la mettre en œuvre), mais c'est sur l'aspect du contrôle que les détracteurs concentrent leurs critiques, brouillant ainsi les frontières entre commodité et surveillance.
Les listes classées de résultats de recherche - un élément incontournable de Google depuis des années - ne sont pas non plus infaillibles. Notre simulation de recherches « complotistes » a renvoyé des liens vers des vidéos YouTube et des publications Facebook promouvant ce genre de croyances.
Covid, Lune, reptiliens : ce que la science a découvert dans l’esprit complotiste
Internet pullule désormais de théories diverses et variées, parfois ancrées dans le réel, souvent complètement farfelues. Le complotisme est devenu au fil des années une donnée importante sur les réseaux sociaux. Pourtant, les défenseurs de ces thèses semblent surestimer leur impact sur leurs contemporains.... Lire la suite
Les extraits générés par l'IA avaient également tendance à présenter davantage de résultats commerciaux. Cela se comprend : les entreprises comptent sur Google pour les mettre en relation avec leurs clients. Et si les utilisateurs ne lisent pas au-delà des résumés générés par l'IA, il est avantageux pour les entreprises d'apparaître comme sources de ces extraits.
Cependant, cela peut parfois contribuer à promouvoir des croyances complotistes. Par exemple, l'un des résumés générés par l'IA que nous avons analysés contenait une source renvoyant vers un livre en vente sur Amazon, écrit par un théoricien du complot de premier plan.
Un porte-parole de Google a déclaré à The Conversation que ses résumés générés par l'IA « fonctionnent comme une recherche traditionnelle en ce sens qu'ils visent à faire correspondre le contenu du Web aux mots de votre requête ». Il a ajouté : Nous investissons considérablement dans la qualité des résumés générés par l'IA, et la grande majorité d'entre eux fournissent des informations précises. Lorsque des problèmes surviennent - par exemple, lorsque nos fonctionnalités interprètent mal un contenu Web ou ne tiennent pas compte de certains éléments de contexte -, nous utilisons ces exemples pour améliorer nos systèmes et prenons les mesures qui s'imposent conformément à nos politiques.
Lutter contre la propagation des théories du complot
En tant qu'entreprise mettant les utilisateurs en relation avec des informations dans des contextes allant du plus banal au plus critique, Google a longtemps nié être un « éditeur ». Mais à mesure que le moteur de recherche s'oriente vers la fourniture de réponses directes sous forme d'extraits générés par l'IA ou de conversations, il pourrait devenir de plus en plus difficile de continuer à nier ce rôle.
Un tribunal de Munich, en Allemagne, a récemment jugé Google responsable des fausses affirmations contenues dans ses résumés générés par l'IA - même si, comme l'a fait valoir Google, les utilisateurs sont avertis de la présence d'éventuelles erreurs et peuvent vérifier les réponses par eux-mêmes.
Ils ont vaincu la désinformation avec cette IA qui repère 99 % des fake news !
Des chercheurs ont réussi à mettre au point un nouvel outil pour détecter la désinformation. En combinant les modèles d’intelligence artificielle, l’outil détecte 99 % des fake news, et pourrait encore s’améliorer.... Lire la suite
La maîtrise de la recherche est importante et les utilisateurs sont capables d'évaluer la fiabilité des sources, d'affiner leurs requêtes et de comparer les résultats entre plusieurs moteurs de recherche. Comprendre comment Google classe ses résultats et génère ses résumés générés par l'IA fait partie de cette maîtrise.
Mais cela ne dégage pas l'entreprise (ni aucun autre moteur de recherche ou opérateur de chatbot) de la responsabilité de mettre en place des garde-fous plus solides pour empêcher la propagation et la légitimation des croyances complotistes.
L'exemple de la théorie du complot bien établie des « chemtrails » démontre que Google dispose des moyens nécessaires pour mettre en place de telles mesures de protection. Celles-ci devraient être déployées sur un éventail plus large de sujets, y compris les croyances émergentes.
Bien sûr, ce qui s'affiche sur une page de résultats de recherche ne sera jamais parfait - et c'est là qu'une meilleure maîtrise de la recherche par les utilisateurs devrait entrer en jeu.