Inquiétude sincère ou intérêt économique ? Pourquoi les géants de l'IA réclament plus de régulation du secteur

Des chercheurs et grandes entreprises de l'intelligence artificielle affirment que le développement de cette technologie fait courir un risque énorme à l'humanité, et demandent une forme de régulation mondiale. Que se cache-t-il derrière ces discours alarmistes ?

France Télévisions

Publié le 20/09/2026 06:55

Temps de lecture : 6min

Les dirigeants de plusieurs entreprises d'IA, comme OpenAI ou Anthropic, appellent à durcir les règles qui encadrent le développement de ces technologies. (MATTEO DELLA TORRE / NURPHOTO / AFP)

"Je crois sincèrement que l'IA a le potentiel de tous nous tuer." Depuis les messages alarmistes de plusieurs chercheurs, estimant que les progrès de l'intelligence artificielle (IA) menacent l'humanité, les appels à encadrer davantage leur développement reprennent de la vigueur. Y compris de la part des entreprises d'IA elles-mêmes, comme OpenAI (créateur de ChatGPT) et Anthropic (qui a développé Claude).

Dans un article sur son blog, le patron d'Anthropic, Dario Amodei, appelle ainsi à "réguler la frontière", le nom donné aux modèles d'IA les plus avancés. Un appel soutenu par ses homologues comme Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (Google DeepMind) et Satya Nadella (Microsoft). Pourquoi des entreprises aussi gigantesques réclament-elles qu'on leur lie les mains ? Certains analystes y voient un intérêt économique : si les géants de l'IA réclament une régulation internationale, ce serait parce que cela les arrange. Mais comment pourraient-ils y trouver leur compte ? Et cette interprétation est-elle fondée ?

Pour certains spécialistes, les discours catastrophistes qui sous-tendent ces appels à la régulation sont utiles aux gros laboratoires car, paradoxalement, ils peuvent favoriser les investissements massifs dont le secteur a besoin. "Pour le moment, les entreprises d'IA ne font pas de profit" et "leur business repose sur la promesse qu'il va générer des bénéfices jamais vus pour la société", rappelle Simone Vannuccini, enseignant-chercheur en économie de l'IA et de l'innovation à l'université Côte-d'Azur.

Dès lors, "ce que ces entreprises peuvent faire, d'un point de vue rationnel, c'est promouvoir sans relâche l'idée selon laquelle la superintelligence artificielle est à nos portes" et qu'il faut la financer pour être le premier à en obtenir les bénéfices, détaille le chercheur. "Ce qui alimente la course, multiplie les investissements et convainc également les gouvernements qu'ils doivent contribuer."

"Il va sans dire que l'IA est une technologie très importante, mais le discours [catastrophiste] et le battage médiatique qui l'entourent découlent de ces incitations économiques."
Simone Vannuccini, enseignant-chercheur en économie de l'IA et de l'innovation à l'université Côte-d'Azur
à franceinfo

"Le discours catastrophiste n'est pas justifié et n'aide pas", estime également sur franceinfo Anne Bouverot, coprésidente du Conseil de l'intelligence artificielle et du numérique. Elle rappelle qu'OpenAI et Anthropic prévoient d'entrer en Bourse prochainement, pour des valorisations jamais vues. Selon elle, la rhétorique catastrophiste peut favoriser une hausse du prix des actions : "'C'est extrêmement puissant ce que je développe, donc c'est normal que ça coûte aussi cher.' Il y a un peu de ce discours-là."

Si les appels à la réglementation portent leurs fruits, ils pourraient également favoriser les géants de l'IA en imposant des exigences trop lourdes à la concurrence éventuelle – en économie, on appelle cela des "barrières à l'entrée". "Certains acteurs profitent de cette période pour renforcer leur position de marché, en plaidant pour des réglementations conçues pour les favoriser au détriment de leurs concurrents", a par exemple attaqué la start-up française d'IA Mistral, dans une déclaration à l'AFP.

"Ce soupçon est compréhensible", commente Michal Valko, chercheur en IA passé par les laboratoires de Google DeepMind et de Meta. "Si les règles imposent d'embaucher des dizaines d'évaluateurs et de négocier avec plusieurs gouvernements, les géants du secteur pourront plus facilement s'y conformer que de nouvelles start-up." Pour Simone Vannuccini, ces barrières pourraient également "ajouter une couche de protection contre les concurrents externes", dont les laboratoires chinois, qui proposent des modèles aux capacités proches, plus ouverts et à moindre prix.

Enfin, des analystes critiques comme Timnit Gebru ou Emily Bender jugent que les géants de l'IA appellent à de nouvelles règles contre les "risques existentiels" pour détourner l'attention des conséquences négatives de l'IA déjà visibles : hausse de la consommation d'électricité et d'eau, pollution de l'air, de l'eau, de l'espace informationnel…

Pour autant, de nombreux chercheurs croient sincèrement à la possibilité que l'IA conduise à un effondrement de la société, voire à l'extinction de l'humanité. "Je connais des chercheurs pour lesquels c'est vraiment une problématique centrale, d'autres qui considèrent que c'est impossible… Il y a des gens des deux côtés", décrit Michal Valko, qui dit ne pas trouver ce risque existentiel "terriblement scientifique" : "Je serais déjà heureux de pouvoir prédire ce que les IA seront capables de faire l'année prochaine !"

"Dans le domaine de l'IA, il y a plusieurs courants de pensée, et l'un d'eux, l''Altruisme efficace', soutient sincèrement qu'il est possible de créer une IA superintelligente mais qu'elle pourrait amener des risques existentiels catastrophiques", décrit Sacha Alanoca, doctorante en gouvernance de l'IA à la Stanford University et cofondatrice du Stanford Critical AI Group. Dario Amodei, par exemple, répète depuis des années son inquiétude, qui l'a motivé à quitter OpenAI pour cofonder Anthropic en 2021.

"Je pense que l'alarme sonnée par ces chercheurs est sincère, mais cela n'empêche pas que la manière dont ces discours sont instrumentalisés, par exemple par Dario Amodei ou Sam Altman, peut générer des conflits d'intérêts."
Sacha Alanoca, doctorante en gouvernance de l'IA à la Stanford University
à franceinfo

"Beaucoup de gens pensent que [la lettre du chercheur Jacob Coxon] est une idée de Dario [Amodei], ou qu'elle vient des PDG, mais c'est faux", soutient auprès du site spécialisé The Verge Daniel Kokotajlo, un ancien employé d'OpenAI qui dirige désormais le AI Futures Project, un organisme à but non lucratif dédié à la recherche sur l'IA. "Des personnes extérieures à ces entreprises réclament cela depuis des années… On entend de plus en plus de voix s'élever pour dire : 'S'il vous plaît, ne créez pas de superintelligence trop tôt. Nous ne sommes pas prêts. Il faut ralentir le rythme.'"

Si ces entreprises sont vraiment inquiètes, pourquoi ne pas juste fermer boutique ? Parce que rien n'oblige les concurrents à faire de même, et la course à l'IA va donc continuer ; de leur point de vue, mieux vaut alors être le premier sur la ligne d'arrivée. "Certains pensent vraiment que la première personne qui créera une superintelligence artificielle déterminera les valeurs portées par cette IA, donc le futur de l'humanité", décrit Sacha Alanoca. Cette inquiétude motive de nombreux chercheurs dans le domaine de l'"AI safety" (la sécurité de l'IA). Voir dans ces cris d'alarme un calcul purement intéressé, c'est donc risquer la caricature.

"Une entreprise peut dire quelque chose qui lui bénéficie, et être dans le vrai malgré tout !"
Michal Valko, chercheur en IA chez Isara Labs
à franceinfo

Preuve que le lien entre régulation et avantage économique ne coule pas de source, tous les dirigeants de la tech ne tiennent pas les mêmes discours catastrophistes. Jensen Huang, le patron du géant des puces électroniques Nvidia, a par exemple jugé l'idée de nouvelles lois sur le développement des IA "complètement inutile", sur la chaîne américaine CNBC. Mark Zuckerberg, patron de Meta, appelle dans un texte publié en août à libérer le développement d'IA ouvertes ("open source"), car "limiter les capacités [d'IA accessibles à tous] nous conduit sur la voie de la centralisation et de l'absence de contre-pouvoirs".

Pour les géants de l'IA, tout dépendra donc de la forme que prendront ces réglementations, si elles sont adoptées. "Les entreprises d'IA réclament notamment une clarification de leur responsabilité légale, par exemple en cas de suicide après une discussion avec un chatbot, ou d'une cyberattaque menée avec leur IA", décrit Sacha Alanoca. Les règles sur le sujet pourraient servir les intérêts des laboratoires d'IA ou leur faire porter toute la responsabilité, selon les formulations choisies.

"Ces dirigeants défendraient-ils les mêmes régulations si leurs technologies avaient un an de retard sur celles des autres ? On pourra juger de leur sincérité en voyant ce qu'ils sont prêts à sacrifier, si les contraintes qu'ils acceptent leur coûtent effectivement des revenus."
Michal Valko, chercheur en IA chez Isara Labs
à franceinfo

Des commentateurs craignent que les entreprises d'IA appellent à une réglementation uniquement cosmétique. "On craint sérieusement qu'ils ne ralentissent pas vraiment le rythme" et qu'"ils se contentent de faire appel à des auditeurs externes, de remplir tout un tas de formalités administratives en matière de sécurité – dont certaines seront réellement utiles – mais qu'en définitive, cela ne les ralentisse pas beaucoup, voire pas du tout", redoute Daniel Kokotajlo.

Les règles tant réclamées pourraient ne pas se manifester avant un moment. Le président américain, Donald Trump, a clairement fait savoir qu'il ne comptait pas légiférer sur l'IA au niveau fédéral, via son réseau Truth Social : "Le seul contrôle ou 'garde-fou' dont l'IA a besoin, c'est un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !)."