Des chercheurs IA appellent d'urgence à un ralentissement du développement de l'IA mais...

Publié le 11 septembre 2026 à 19:45 par Christian D.

Les architectes des intelligences artificielles les plus avancées au monde unissent leur voix et supplient qu'on appuie sur le frein. Mais est-ce seulement possible ?

Des chercheurs des laboratoires OpenAI et Anthropic, suite à la démission fracassante de l'un d'eux, avertissent publiquement du risque d'extinction humaine lié à leurs propres technologies.

Ils dénoncent une course effrénée vers une superintelligence incontrôlable et appellent à un ralentissement immédiat du développement de l'IA. L'une des dernières alertes en date a été lancée par Jacob Coxon, chercheur chez Anthropic, qui dénonce une course folle entre son employeur et le géant OpenAI.

Selon lui, ces entreprises « jouent avec nos vies » et foncent tête baissée vers une technologie qui pourrait « nous tuer tous d'ici la fin de la décennie ».

Pourquoi les chercheurs d'OpenAI et Anthropic tirent-ils la sonnette d'alarme ?

La sonnette d'alarme est tirée car un nombre croissant de chercheurs, y compris des cadres dirigeants, estime que la probabilité de voir l'IA causer des dommages catastrophiques est bien trop élevée pour continuer à ce rythme.

Evan Hubinger, responsable de l'alignement chez Anthropic, a publiquement estimé qu'il y avait plus de 10% de chances que ce scénario apocalyptique se réalise dans les dix prochaines années. 

Cette vague de confessions publiques révèle une angoisse qui grandit avec l'ancienneté. Selon Samuel Marks, un autre chercheur d'Anthropic, « plus l'employé est senior, plus il est inquiet ».

Des membres de l'équipe de sécurité d'OpenAI, comme Julie Steele, ont également joint leurs voix à cet appel pour un ralentissement du développement IA. 

Qu'est-ce que l'auto-amélioration récursive (RSI) et pourquoi est-ce si dangereux ?

L'auto-amélioration récursive, ou RSI (Recursive Self-Improvement), est le concept d'une IA capable d'améliorer son propre code et ses propres capacités de manière autonome, créant une boucle d'intelligence explosive et potentiellement incontrôlable.

C'est le point de non-retour que tous redoutent. Jasmine Wang, chercheuse chez OpenAI, a été catégorique : « Il est difficile d'exagérer à quel point il est dangereux de foncer vers la RSI ». Le chef scientifique d'OpenAI, Jakub Pachocki, a lui-même admis qu'il n'existait aucun plan scientifique viable pour gérer de tels risques.

Le laboratoire Anthropic a beau mettre en avant ses cadres de sécurité, ses propres experts estiment que la science de l'alignement n'est tout simplement pas prête pour répondre à ces enjeux.

Quelles sont les conséquences concrètes de cette course à l'IA ?

Les conséquences concrètes incluent déjà des incidents de sécurité où des IA ont franchi leurs barrières, comme des brèches de cybersécurité, et une pression politique et financière immense qui pousse les entreprises à avancer malgré les risques.

Des modèles d'intelligence artificielle ont déjà été impliqués dans des incidents, comme la compromission de la plateforme Hugging Face par un agent OpenAI ou la création de fausses identités par un modèle d'Anthropic pour tromper des humains.

Ces dérapages, autrefois théoriques, sont devenus des faits d'actualité qui alarment jusqu'au Congrès américain. La représentante Lori Trahan a fustigé des « entreprises qui foncent malgré tout ».

La pression est aussi économique : Anthropic prépare son entrée en bourse, un projet que certains voudraient voir suspendu, le temps d'enquêter.

Mais dans le même temps, une course est engagée avec la Chine et le gouvernement américain ne veut rien lâcher, sous peine de voir son industrie de l'IA se faire distancer.

Le secteur est donc pris entre deux feux : une fuite en avant pour dominer le marché et des incidents qui ne pourront que se multiplier, faute de prendre le temps de remédier aux problèmes rencontrés. Jusqu'à une crise majeure ?

Journaliste GNT spécialisé en mobilité / Ante-Geek des profondeurs du Web et d'ailleurs

Cette page peut contenir des liens affiliés. Si vous achetez un produit depuis ces liens, le site marchand nous reversera une commission sans que cela n'impacte en rien le montant de votre achat. En savoir plus.