"Mal nommer un objet, c'est ajouter au malheur de ce monde", écrivait Albert Camus. Une citation qui vient de trouver une actualité assez inattendue dans le monde de l'intelligence artificielle (IA).

Fin septembre, Donald Trump a signé un décret demandant à l'administration américaine de remplacer le terme "Artificial Intelligence" (AI) par "Super Intelligence" (SI). Selon le président américain, le mot "artificial" évoquerait quelque chose de faux, d'imité, alors que ces technologies seraient devenues bien plus que cela. Et puis, "Super Intelligence", ça sonne quand même mieux !

"Comme une Constitution" : sous la tutelle de Trump, les patrons de l'IA promettent de s'auto-réguler

AI, AGI et ASI

L'industrie semble avoir compris le message : Google, OpenAI, Anthropic, Meta, Nvidia et xAI ont signé le même jour un accord à la Maison-Blanche utilisant cette nouvelle terminologie. Elon Musk a même annoncé que SpaceXAI deviendrait SpaceXSI. Tout le monde n'a pas encore abandonné le terme AI, mais la nouvelle appellation fait son chemin.

Deux lettres vont disparaître du vocabulaire d'Elon Musk, et Donald Trump y est pour quelque chose

On pourrait n'y voir qu'une de ces lubies de communication dont Donald Trump est coutumier, à l'instar de "Lake America". Mais ce changement de vocabulaire pose un vrai problème.

Une IA supérieure à l'homme dans tous les domaines, et capable éventuellement de s'améliorer elle-même, ouvrirait des perspectives extraordinaires.

Car le terme "superintelligence" existait déjà, et désignait quelque chose de très particulier.

Le philosophe Nick Bostrom l'utilisait dès les années 1990, avant de lui consacrer un livre devenu une référence en 2014. Il désignait ainsi une intelligence artificielle qui aurait dépassé de très loin l'intelligence humaine, dans pratiquement tous les domaines.

On avait ainsi pris l'habitude de distinguer trois niveaux : l'AI, terme générique englobant les technologies actuelles, l'AGI (Artificial General Intelligence), une intelligence artificielle générale comparable à l'intelligence humaine, et enfin l'ASI (Artificial Super Intelligence), qui nous serait très largement supérieure.

Cette dernière étape reste hypothétique. Mais elle fait depuis longtemps l'objet de travaux de recherche, et suscite des interrogations assez vertigineuses.

Car une IA supérieure à l'homme dans tous les domaines, et capable éventuellement de s'améliorer elle-même, ouvrirait des perspectives extraordinaires. En médecine, dans la recherche scientifique, pour résoudre des problèmes auxquels nous nous heurtons depuis des décennies…

Des milliers d'IA pour faire avancer la science

Attention danger !

Mais n'oublions pas les dangers. Le premier concerne évidemment l'usage malveillant de telles capacités. Une IA extrêmement puissante pourrait faciliter la conception d'armes biologiques, mener des cyberattaques d'une sophistication inédite ou manipuler l'opinion publique à une échelle que nous avons du mal à imaginer.

Et si elle devenait beaucoup plus intelligente que ses concepteurs, comment pourrions-nous encore comprendre ses décisions, ou l'empêcher d'agir ?

Plus troublant encore, certains chercheurs s'interrogent sur notre capacité à conserver le contrôle de telles intelligences. Une IA qui poursuivrait un objectif mal défini pourrait trouver des moyens inattendus de l'atteindre, éventuellement au détriment des intérêts humains. Et si elle devenait beaucoup plus intelligente que ses concepteurs, comment pourrions-nous encore comprendre ses décisions, ou l'empêcher d'agir ?

Enfin, une telle technologie pourrait bouleverser les équilibres économiques et géopolitiques : concentration considérable de richesse et de pouvoir, remplacement de pans entiers du travail humain, course entre grandes puissances pour être la première à disposer de cette nouvelle capacité.

Certains de ces scénarios relèvent encore largement de la spéculation, et les chercheurs sont loin de s'accorder sur leur probabilité. Mais les enjeux sont suffisamment sérieux pour que des équipes entières, chez OpenAI, Anthropic ou Google DeepMind, travaillent sur ce que l'on appelle l'" AI Safety" : comment s'assurer que les IA de demain resteront sous notre contrôle, et au service de nos intérêts.

Le terme de "superintelligence" permettait précisément de parler de ces risques particuliers, et de les distinguer de ceux, bien réels également, des IA actuelles.

Un texte de Sam Altman et ses collègues d'OpenAI

L'ironie est qu'en 2023, Sam Altman et ses collègues d'OpenAI avaient eux-mêmes publié un texte consacré à la gouvernance de la superintelligence. Ils y insistaient sur la nécessité de ne pas diluer l'attention portée à ces systèmes futurs en utilisant le même vocabulaire pour des technologies bien moins puissantes.

Appeler toutes les voitures des "Formule 1" n'en augmente évidemment pas les performances.

Trois ans plus tard, voilà que le terme devient une appellation générique, par décision présidentielle.

Les chercheurs continueront bien entendu à distinguer les différentes générations d'IA, quitte à inventer de nouveaux acronymes. Mais pour le grand public, les médias, et surtout les responsables politiques qui devront un jour prendre des décisions sur ces technologies, cette confusion risque de compliquer singulièrement le débat.

Le vocabulaire permet de distinguer ce qui existe de ce que l'on anticipe, et de réfléchir aux précautions qui pourraient devenir nécessaires lorsque certains seuils seront franchis.

L'IA prisonnière de son progrès ?

Appeler toutes les voitures des "Formule 1" n'en augmente évidemment pas les performances. Mais cela complique un peu la discussion sur les précautions à prendre lorsqu'une véritable Formule 1 déboule à 300 km/h.

À force de vouloir rendre l'IA "super" par décret, Donald Trump risque surtout de nous priver d'un mot dont nous aurons peut-être grand besoin.

Et ce, avant même que la chose qu'il désigne n'existe.