L'action du conglomérat d'investissement japonais SoftBank Group, important investisseur d'OpenAI, a chuté de plus de 10 % lundi, dans le sillage d'autres valeurs technologiques, après que des dirigeants de plusieurs grandes entreprises mondiales d'IA ont soutenu des appels à privilégier "la prudence plutôt que la vitesse et la circonspection plutôt que le profit".

L'expression a été reprise par le directeur général d'Anthropic, Dario Amodei, qui a appelé samedi les entreprises d'IA à "maîtriser la course en tête" en coordonnant un ralentissement du développement de leurs modèles les plus avancés, afin de disposer de plus de temps pour comprendre et maîtriser les risques.

Parmi ses principales inquiétudes figure ce que l'on appelle "l'auto-amélioration récursive", où des systèmes d'IA contribuent à concevoir la génération suivante de modèles d'IA.

"Si on la laisse se développer sans contrôle, elle pourrait dépasser notre capacité à comprendre et à maîtriser ces systèmes, et doit donc être poursuivie avec une extrême prudence, si tant est qu'elle le soit", a écrit Amodei.

Le directeur général d'OpenAI, Sam Altman, et celui de xAI, Elon Musk, ont publiquement soutenu cet avertissement, Musk déclarant : "Dario a raison".

Altman a également déclaré au magazine Fortune, dans une interview publiée samedi, qu'OpenAI ne lancerait pas d'introduction en Bourse cette année, l'entreprise se concentrant sur la sécurité.

OpenAI et Anthropic sont toutes deux des sociétés non cotées. Anthropic préparerait, selon la presse, une possible introduction en Bourse dans les prochains mois.

Ces déclarations interviennent après la démission du chercheur d'Anthropic Jacob Coxon, qui a mis en garde contre le risque de voir cette technologie échapper au contrôle humain.

Evan Hubinger, un autre chercheur d'Anthropic qui travaille toujours pour l'entreprise, a ensuite écrit : "Nous croyons sincèrement que l'IA pourrait tuer tous les humains !" Il a estimé que la probabilité dépassait 10 % au cours de la prochaine décennie.

Le président américain Donald Trump a rejeté ces mises en garde dimanche, qualifiant les détracteurs de l'IA de "forces très négatives" et affirmant que les scénarios qu'ils évoquent ne se produiraient pas. Le président de la Chambre des représentants, Mike Johnson, a lui aussi appelé la population à ne pas céder à la panique.

Les investisseurs ont toutefois vendu des valeurs technologiques lundi.

Le repli de SoftBank "reflète probablement la possibilité que le développement de l'IA soit freiné par les régulateurs afin d'essayer d'éviter les scénarios les plus catastrophiques évoqués par Anthropic et OpenAI", estime Dan Baker, du cabinet d'analyse financière Morningstar.

"Et il reflète peut-être aussi la possibilité que de nouveaux exemples de perte de contrôle sur les modèles d'IA les plus récents puissent également ralentir le développement de l'IA", a-t-il ajouté.

D'autres actions liées à l'IA en Asie ont également reculé. Le fabricant sud-coréen de mémoires SK Hynix a perdu 5,3 %, tandis que Samsung Electronics a cédé 2,8 %. Le japonais Tokyo Electron, qui produit des équipements pour semi-conducteurs, a abandonné 0,9 %, et le fabricant de mémoires Kioxia Holdings a chuté de 6 %.

La course avec la Chine

Amodei a également réclamé un durcissement des restrictions sur l'accès de la Chine aux puces d'IA avancées et aux équipements de fabrication de semi-conducteurs, estimant que les puces détermineraient en grande partie les capacités du pays en matière d'IA.

Il a toutefois reconnu sur CBS News que le "dilemme le plus difficile" tenait au fait que la Chine pourrait ne pas se joindre à un ralentissement coordonné.

Le Global Times, journal d'État chinois, a qualifié sa position de "à courte vue" et l'a accusé de vouloir freiner le développement du pays au moyen d'une "guerre froide de l'IA". Dans le même temps, le président Xi Jinping a proposé une zone d'IA open source des BRICS pour approfondir la coopération sur les modèles et la formation en intelligence artificielle.

Sources additionnelles • AP&AFP