OpenAI a renoncé au lancement de son nouveau modèle GPT-6.1 Astra, à cause d'un risque de dérapage jugé trop élevé. Attendu dès octobre, le modèle s’est montré trop autonome lors des tests. La décision tombe en plein débat sur l’IA, alors que de nombreuses voix réclament un ralentissement de son développement.

Il s'agit d'une décision rare: OpenAI accepte de sacrifier le lancement très attendu d’un modèle plus performant, le temps d’y intégrer davantage de garde-fous. L’entreprise estime que la nouvelle version n’était tout simplement pas suffisamment sûre.

L'inquiétude portait sur la capacité du programme à agir, sans forcément en référer à l’utilisateur. Cette nouvelle génération d’IA se veut plus active, capable d’accomplir une tâche à la place des utilisateurs.

Un exemple: si vous lui demandez de trouver un hôtel, de comparer les prix, de remplir les formulaires et de réserver l’offre la moins chère, ce type de programme peut ouvrir des sites, chercher, comparer, remplir des formulaires. Bref, enchaîner seule plusieurs étapes.

>> Relire : Un piratage "sans précédent" d'une plateforme par les agents d'IA d'OpenAI

Respecter les limites fixées par l'humain

Pendant les tests, GPT-6.1 Astra allait parfois trop loin pour atteindre ses objectifs. Le modèle poursuivait sa mission sans demander l’autorisation, utilisait des outils non prévus et ne rendait pas toujours compte fidèlement de ce qu’il avait fait.

Le défi consiste aujourd'hui à développer une intelligence artificielle persévérante, capable de se débrouiller seule et de surmonter les obstacles, tout en s’assurant qu’elle ne dépasse pas les limites fixées par l’humain.

L'entreprise a décidé seule d’annuler le déploiement de son nouveau modèle. Cette décision est plutôt à contre-courant de la Maison Blanche. Après plusieurs incidents en laboratoire, les appels à davantage de garde-fous se multiplient dans le secteur. Mais Donald Trump minimise les inquiétudes, qu'il qualifie de "canular", et reste opposé aux appels à ralentir.

Michael Peuker/lia