Anthropic, OpenAI et même Elon Musk s’accordent pour ralentir l’IA : « je redoute que d’ici 6 à 12 mois, elle soit capable de prendre le contrôle de l’intégralité d’internet »
Anthropic, OpenAI et même Elon Musk s’accordent pour ralentir l’IA : « je redoute que d’ici 6 à 12 mois, elle soit capable de prendre le contrôle de l’intégralité d’internet »
Publié le 12 septembre à 21h18
Ajoutez-nous à vos favoris Google Le patron d’Anthropic, Dario Amodei, appelle à ralentir le développement de l’IA afin de renforcer les garde-fous, une position soutenue par Elon Musk et Sam Altman.Le patron d’Anthropic, Dario Amodei, a appelé samedi à ralentir la vitesse de développement de l’intelligence artificielle (IA), un message auquel se sont rapidement ralliés Elon Musk et Sam Altman (OpenAI).
Il faut « temporiser » l’amélioration de l’IA « pour que la prévention des risques soit en mesure de suivre le rythme », a écrit le directeur général d’Anthropic dans un message publié sur son site personnel.
« Dario a raison », a réagi, quelques heures plus tard, Elon Musk, sur X. « Je suis d’accord avec Dario », a aussi écrit le patron d’OpenAI Sam Altman, également sur X. « C’est un des principaux sujets de discussions chez OpenAI ces dernières semaines. »
Si Elon Musk a régulièrement eu des commentaires positifs sur Anthropic et son approche de l’IA, il est très rare de voir le patron d’OpenAI soutenir une initiative de celui d’Anthropic, les deux entreprises étant les deux grandes rivales du secteur.
Dario Amodei a, par ailleurs, quitté OpenAI en 2020 pour partie parce qu’il considérait que la start-up californienne se montrait trop laxiste sur la question de la sécurité de l’IA, avant de fonder Anthropic en 2021.
La proposition de Dario Amodei fait écho à plusieurs autres de même nature lancées depuis début juin, d’abord par lui-même, puis par Sam Altman, et enfin par un groupe d’employés du milieu.
Ces exhortations intervenaient après un incident lors duquel des modèles d’OpenAI étaient sortis spontanément de leur milieu confiné lors de tests pour rejoindre internet et attaquer la plateforme d’IA Hugging Face.
Depuis, plusieurs autres événements ayant vu des IA d’OpenAI et Anthropic se rendre sur internet à l’insu de leurs superviseurs ont été rapportés par les deux entreprises.
A chaque fois, ils impliquaient des agents IA, c’est-à-dire un programme spécifique bâti sur un modèle et doté de ses propres connaissances et de ses propres objectifs.
Les agissements et les méthodes de ces agents ont d’autant plus inquiété qu’ils ont montré une propension à se coordonner, à établir une hiérarchie entre eux, à tricher et à effacer les traces de leurs méfaits.
Une IA prenant le contrôle d’internet
Vu l’accélération actuelle du développement de l’IA, « je redoute que d’ici 6 à 12 mois, un groupe (d’agents) soit capable de prendre le contrôle de l’intégralité d’internet », prévient Dario Amodei, ce qui « pourrait entraîner des centaines de milliards de dollars de dégâts ».
Mardi, Jacob Coxon, salarié démissionnaire d’Anthropic et ancien d’OpenAI, avait dénoncé l’inertie des deux concurrents.
« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit sur le réseau social X.
Début août, le gouvernement américain a mis en place un cadre de supervision, qui prévoit l’examen, sur la base du volontariat, de nouveaux modèles d’IA avant leur sortie. Mais ce dispositif reste opaque.
Beaucoup s’interrogent sur son efficacité, dans la mesure où Donald Trump s’est régulièrement dit opposé à toute mesure ralentissant le développement de l’IA aux Etats-Unis, qu’il s’agisse de la sortie des modèles ou de la construction des centres de données.
Après avoir identifié les dérapages de leurs modèles, OpenAI et Anthropic ont chacun suspendu ou freiné le travail sur leurs nouvelles IA durant quelques jours, avant de le reprendre au même rythme.
Dans sa communication, Dario Amodei s’inquiète de l’arrivée de l’amélioration récursive autonome (RSI), un processus qui voit l’IA s’améliorer elle-même sans intervention humaine.
« Sans supervision, (cette méthode) pourrait dépasser nos capacités de compréhension et de contrôle de ces systèmes », explique le patron d’Anthropic. Elle doit être appliquée « avec beaucoup de prudence », « si tant est qu’il faille l’utiliser ».
Outre son appel, Dario Amodei formule plusieurs propositions, en premier lieu, l’intégration par les fleurons de l’IA d’observateurs indépendants.
S’il la recommande à toute l’industrie, le dirigeant s’engage à la mettre en place unilatéralement chez Anthropic.
Les observateurs auront les mêmes accès que les employés de l’entreprise et pourront vérifier que la start-up se tient bien à ses engagements, faire état d’éventuels nouveaux incidents et surveiller l’encadrement des modèles pour éviter leurs dérives.
Samedi, Sam Altman a promis d’en faire de même chez OpenAI.
Dario Amodei prône aussi la collaboration entre les entreprises les plus avancées pour définir des normes de sécurité communes. Il se dit aussi favorable à une forme de coordination politique entre toutes les grandes nations de l’IA.
États-Unis Dario Amodei Elon Musk Sam Altman Donald TrumpContenus sponsorisés
À la une
Les voisins d’Eloïse, soupçonnée d’avoir caché le corps de son mari sous sa terrasse, n’en reviennent pas : « On a cru ce qu’elle nous avait dit »
« Les coups étaient très violents » : un quinquagénaire soupçonné de pédophilie se fait tabasser par trois hommes, sa fille témoigne
« Il a bel et bien été vu » : Skeyes confirme, un drone a été aperçu à Brussels Airport dans une zone à risques pour le trafic
Après s’être moqué de Joe Biden, Donald Trump s’endort à une cérémonie du 11 septembre et se prend un gros retour de flammes sur les réseaux sociaux
Tragédie près de Libin : un homme perd la vie en se rendant son mariage
Les plus lus
Tragédie près de Libin : un homme perd la vie en se rendant son mariage
Cette pilote devait percuter un des avions détournés lors du 11 septembre : « Nous savions que ce serait une mission suicide »
Les voisins d’Eloïse, soupçonnée d’avoir caché le corps de son mari sous sa terrasse, n’en reviennent pas : « On a cru ce qu’elle nous avait dit »
Après s’être moqué de Joe Biden, Donald Trump s’endort à une cérémonie du 11 septembre et se prend un gros retour de flammes sur les réseaux sociaux
Éloïse, une habitante de Visé, aurait tué son compagnon puis dissimulé son corps sous une dalle de béton
« Il a bel et bien été vu » : Skeyes confirme, un drone a été aperçu à Brussels Airport dans une zone à risques pour le trafic
Aussi en Hi-Tech
Google a sorti un nouveau pliable : que vaut le Pixel 11 Pro Fold ?
À 1.999 €, le Pixel 11 Pro Fold mise sur la fluidité logicielle, le multitâche et la certification IP68, mais conserve une recharge filaire lente et des capteurs photo secondaires modestes.
Jusqu’à 60 % moins chers qu’un neuf : un certain type d’ordinateur connaît un fort succès depuis plusieurs années
Huawei est toujours le maître de l’autonomie avec sa Watch GT7, mais accepterez-vous les compromis logiciels ?
Le smartphone avec 3 jours d’autonomie est arrivé en Belgique : il est (forcément) chinois, et il change de couleur
Duel au sommet entre la Pixel Watch 5 et la Galaxy Watch 9 : qui de Google ou de Samsung est le roi de la montre Android ?
Découvrir l’Univers depuis son balcon : on a essayé le télescope Odyssey Pro d’Unistellar
Voir plus d’articles
Les voisins d’Eloïse, soupçonnée d’avoir caché le corps de son mari sous sa terrasse, n’en reviennent pas : « On a cru ce qu’elle nous avait dit »
À Visé, des analyses ADN ont confirmé que des ossements découverts sous une terrasse sont ceux de Farid, disparu depuis 2018. Le voisinage, qui croyait à un départ volontaire, découvre qu’Héloïse est soupçonnée et n’en revient pas.
Exclu RTL « Les coups étaient très violents » : un quinquagénaire soupçonné de pédophilie se fait tabasser par trois hommes, sa fille témoigne
« Il a bel et bien été vu » : Skeyes confirme, un drone a été aperçu à Brussels Airport dans une zone à risques pour le trafic
Après s’être moqué de Joe Biden, Donald Trump s’endort à une cérémonie du 11 septembre et se prend un gros retour de flammes sur les réseaux sociaux
Hautes-Fagnes : une cinquantaine d’intervenants toujours mobilisés après l’incendie ce samedi, voici le dispositif en place
Anthropic, OpenAI et même Elon Musk s’accordent pour ralentir l’IA : « je redoute que d’ici 6 à 12 mois, elle soit capable de prendre le contrôle de l’intégralité d’internet »
Guerre en Ukraine : la Russie se dit « prête à négocier », mais exclut tout cessez-le-feu
Peut-on se faire justice soi-même ? « Je ne pense pas que ce soit une bonne idée, mais je comprends », réagissent des élèves de rhéto
Cette pilote devait percuter un des avions détournés lors du 11 septembre : « Nous savions que ce serait une mission suicide »
Éloïse, une habitante de Visé, aurait tué son compagnon puis dissimulé son corps sous une dalle de béton
Faut-il s’inquiéter du virus du Nil occidental, transmis par les moustiques ? 5 cas suspects en Flandre, Yves Van Laethem détaille les risques