Action diplomatique, encadrement, limitation des investissements… les idées pour ralentir le développement de cette technologie se multiplient. Face aux récentes actualités dressant une IA capable d’échapper au contrôle de ses créateurs, ces derniers se sont retrouvés autour d’une pétition envoyée au gouvernement américain.

Deux des principaux acteurs de la course au développement de l’intelligence artificielle ont demandé au gouvernement américain, dans une pétition, de trouver un moyen de ralentir le développement de cette technologie si celui-ci devenait trop rapide, écrit le Washington Post.

OpenAI, à l’origine de ChatGPT, et son principal rival Anthropic, développeur du chatbot Claude, ont affiché leur soutien à une pétition publiée ce mardi. Le texte, signé par plusieurs centaines de salariés des deux entreprises ainsi que par des employés de Google, Meta et d’autres acteurs majeurs de l’intelligence artificielle, appelle à une mobilisation commune du secteur.

Dans le document, ces différents protagonistes expliquent qu’ils pourraient être sur le point d’automatiser le travail de recherche effectué par l’IA. Cela pourrait rendre cette technologie incontrôlable. "Nous demandons au gouvernement américain de soutenir un effort international visant à développer les outils techniques et de gouvernance nécessaire pour encadrer de manière réfléchie le développement de l’intelligence artificielle automatisée", est-il ainsi indiqué dans la pétition.

Quand l’IA prend le contrôle

De plus en plus d’événements semblent confirmer les craintes de ces entreprises. La semaine dernière, deux modèles d’IA d’Open AI ont orchestré une cyberattaque de leur propre initiative. Lors d’une phase de tests, ils sont sortis de leur milieu confiné pour rejoindre internet et hacker la plateforme Hugging Face. Ce mardi 29 juillet, ces mêmes modèles ont également fait intrusion sur quatre autres plateformes, selon le créateur de ChatGPT Sam Altman.

Du côté du concurrent Anthropic, on révèle ce mardi 28 juillet qu’un des prototypes de la société est parvenu à partiellement percer les secrets du chiffrement de données, écrivent nos confrères du Figaro. Ce mécanisme est central dans le fonctionnement d’internet : il permet de sécuriser les transactions bancaires, les conversations, les données personnelles. Utilisé à l’origine pour identifier les failles de ce système, le prototype s’est soudainement mis à l’attaquer.

Anthropic explique que "Claude Mythos Preview" a également réussi à "briser" l’Advanced Encryption Standard (AES), l’un des algorithmes de protection des données les plus répandus au monde (Apple, Microsoft, Google l’utilisent)."Mythos a réussi à rendre les méthodes d’attaque existantes jusqu’à 800 fois plus rapides", il a mené ses actions "de façon quasi autonome et presque sans intervention humaine", explique l’entreprise.

Un développement acharné

Aux États-Unis comme ailleurs, l’intelligence artificielle continue de se développer, portée par des investissements massifs des entreprises et des États. Une partie de l’écosystème de l’IA et de la Silicon Valley continue de défendre un développement rapide de cette technologie.

Sam Altman, n’a pas signé lui-même la pétition, mais a récemment déclaré qu’il pourrait être nécessaire de "ralentir le rythme du développement de l’IA".

En planchant sans retenue sur la recherche automatisée par l’IA, les entreprises font le choix d’accélérer "considérablement le rythme des progrès, au-delà du point où les modèles peuvent être contrôlés en toute sécurité", a prévenu Andrew Yoon, membre de l’équipe technique de CivAI, une organisation qui analyse les capacités de l’IA et les risques liés à cette technologie.