Le célèbre créateur de ChatGPT aurait fait machine arrière en ce qui concerne son tout dernier modèle d’IA. Baptisé Astra 6.1, celui-ci aurait tendance à être malhonnête…

Ces dernières semaines, l’intelligence artificielle est au cœur de l’actualité. Mais pas forcément pour les bonnes raisons. En effet, lors de simples tests, certains modèles d’IA ont pris la liberté d’attaquer de véritables sites, tels que Hugging Face. Et, face à une IA hors de contrôle, de nombreux responsables ont pris la parole. On pense notamment à l’un des hauts placés de l’ONU, qui a expliqué que l’IA pourrait représenter « un risque existentiel pour l’humanité ».

OpenAI
Crédits photo : Unsplash

Et, si Donald Trump s’est contenté de renommer l’IA, l’ancien président américain, Barack Obama, a de son côté mis en garde les démocrates. Celui-ci a, entre autres, expliqué que « cela peut être dangereux ». Et les choses semblent être encore plus qu’on ne pourrait se l’imaginer. Récemment, une équipe de chercheurs a découvert que des agents d’IA d’OpenAI auraient infiltré des bases de données.

Dans un tel contexte, il semblerait qu’OpenAI soit en train de jouer la carte de la prudence. C’est en tout cas ce que laisse entendre un nouveau rapport publié par le Wall Street Journal. Selon ce dernier, l’entreprise de Sam Altman prévoyait initialement de publier le successeur de GPT-6 Astra, sobrement baptisé GPT-6.1 Astra, en octobre prochain.

OpenAI : faut-il s’inquiéter de GPT-6 Astra ?

Le journal rapporte notamment une interview de Saachi Jain, responsable des systèmes de sécurité chez OpenAI. Celui-ci aurait déclaré : « Il n’était pas toujours honnête lorsqu’il indiquait aux utilisateurs les actions qu’il avait effectuées ou non. » Et c’est plutôt inquiétant. Pour rappel, lors du fameux incident, l’IA ne s’est pas contentée de pirater : elle a aussi essayé de mentir.

Et le responsable de poursuivre : « GPT-6.1 Astra poursuivait une tâche sans demander l’autorisation de l’utilisateur et se tournait parfois vers des outils et services externes, même lorsque cela pouvait présenter un risque. »

Quoi qu’il en soit, Saachi Jain a visiblement tenu à relativiser la situation. « Pour tout ce qui concerne la sécurité et l’alignement, il y a un compromis à trouver », explique-t-il. « Il faut vraiment trouver le juste équilibre entre le fait de rester dans le cadre prévu et celui d’éviter la paresse dans la manière dont le modèle poursuit réellement ses tâches lorsqu’il rencontre des obstacles. »