OpenAI et Anthropic pressent le Congrès pour une loi sur la sécurité de l'IA

Publié10. septembre 2026, 21:55

États-UnisOpenAI réclame à son tour une loi de sécurité sur l'IA

Un responsable du créateur de ChatGPT demande des règles communes aux laboratoires de pointe face au spectre d'une IA hors de contrôle.

OpenAI s’est jointe à sa rivale Anthropic pour presser le Congrès américain d’adopter rapidement des règles de sécurité obligatoires pour les créateurs des intelligences artificielles les plus puissantes, dont les chercheurs eux-mêmes multiplient les mises en garde. «La perspective d’un développement de l’IA accéléré par l’IA exige davantage que des engagements volontaires», a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT, dont les agents en test ont piraté cet été la plateforme Hugging Face.

Il demande au Congrès d’imposer, avant fin décembre, des règles communes aux laboratoires de pointe: tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité. Les deux entreprises rivales de San Francisco disent voir approcher le stade où une IA concevrait seule son successeur, hors de tout contrôle humain, mais affirment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents.

«Plus de 10%» de risque que l'IA tue «tous les humains»

OpenAI veut des règles internationales fixant «quand et comment le développement devrait ralentir ou s’arrêter. Anthropic réclame un mécanisme «légal et vérifiable» de ralentissement coordonné, a-t-elle redit mercredi à la chaîne NBC. Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d’outils pour freiner le développement de l’IA.

Ces interventions surviennent au lendemain de la démission très médiatique d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de «jouer avec nos vies». Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison, estimant à titre personnel à «plus de 10%» le risque que l’IA «tue tous les humains» dans la décennie, une estimation que le pionnier de l’IA Geoffrey Hinton a jugée «pas déraisonnable» sur la BBC.

«Risques catastophiques» biologiques et nucléaires

Aucune loi fédérale n’encadre aujourd’hui ces modèles aux États-Unis. L’administration Trump a privilégié jusqu’ici une approche légère, pour maintenir la compétitivité face à la Chine, et neutraliser les lois adoptées par les États américains. Au Congrès, le sénateur républicain Ted Cruz a indiqué travailler avec le chef de la majorité John Thune et la démocrate Amy Klobuchar sur un texte visant les «risques catastrophiques» de l’IA, biologiques ou nucléaires.

Il pourrait être déposé dès la semaine prochaine et constitue, selon le site Semafor, le seul texte ayant une chance d’aboutir avant 2027. À deux mois des élections américaines de mi-mandat, l’IA est devenue un sujet de campagne majeur, au point qu’un sénateur républicain, Thom Tillis, y voit un handicap pour son parti, selon le média parlementaire The Hill.

Bernie Sanders s’apprête, lui, à déposer un texte interdisant la «superintelligence», stade qui verrait l’IA dépasser les capacités de l’intelligence humaine. En attendant, la Californie a promulgué mercredi deux lois créant un système d’évaluation indépendante des modèles d’IA, soutenues par Anthropic et, après un revirement, par OpenAI.

(les/jw)

L’Agence France‑Presse (AFP) est une agence mondiale d’information. C'est l'une des sources d’information internationale que 20 minutes utilise.

Ton opinion