Un rapport pointe les protections insuffisantes de l’IA face aux demandes terroristes

Des tests menés sur plus de 160 modèles révèlent que certains peuvent répondre à des questions liées à des projets terroristes, notamment lorsque les demandes sont formulées dans un cadre de "recherches en sécurité".

Radio France

Publié le 11/10/2026 07:53

Temps de lecture : 1min

Et si l’intelligence artificielle aidait aussi les terroristes dans leurs projets ? De nombreux modèles d’IA disposent aujourd’hui de protections insuffisantes contre les demandes d’ "aide à une opération terroriste", selon un rapport que vient de publier Tech Against Terrorism, une initiative internationale à but non lucratif soutenue par les Nations unies. Un test a été mené sur plus de 160 modèles d’intelligence artificielle. Quel est le résultat ?

Tout dépend de la façon de poser les questions. Lorsqu’un utilisateur indique clairement son "intention terroriste", ChatGPT, Claude ou Gemini, les modèles d’IA les plus répandus, répondent en moyenne à 2% des demandes, soit 12 réponses sur plus de 600 questions posées. Le résultat monte à 17%, soit plus d’une réponse sur six, quand la demande indique un cadre plus large de "recherches en sécurité".

Plus inquiétant : 13 modèles d’IA débridés ont été testés, c’est-à-dire modifiés pour faire tomber les paramètres de sécurité et ne pas refuser certaines demandes. Dans ce cas, le taux moyen de réponse aux questions en lien avec une "activité terroriste" a dépassé les 85%, voire les 90%.

Il y a un mois, Anthropic avait révélé que le groupe des Houthis, au Yémen, classé comme terroriste par les États-Unis, avait utilisé son modèle d’IA, Claude, pour tenter de fabriquer des roquettes et des missiles. Une alerte, déjà, sur les limites des systèmes de protection des intelligences artificielles.

Vous pouvez désormais privilégier l'affichage des articles de franceinfo dans les résultats de recherche Google. Comment ça marche ?

Sur le même thème

• Une chanson, accusée de faire l'apologie du terrorisme et mise en cause dans plusieurs affaires judiciaires, retirée de Spotify et Deezer

• vidéo

  Vidéo

  Une dizaine de jeunes se filment dans une église de Vendée en train de chanter un morceau faisant l'apologie du terrorisme

• vidéo

  Téléphone au volant : les sanctions durcies, les conducteurs plutôt compréhensifs

• L'influenceur Mounim Sabhi, soupçonné de violences filmées en direct, placé en détention provisoire

• audio

  Trump / Xi : à quoi va ressembler le face-à-face entre les deux rivaux ? Les informés de franceinfo du 23 septembre 2026

Shorts

• Un portrait d’Angela Merkel affole Berlin

  • 3 min

• Ouragan, séisme : le continent américain frappé de plein fouet

  • 3 min

• La vie sous surveillance du réalisateur russe Pavel Talankin

  • 3 min

• Sophie Adenot émue aux larmes à son retour

  • 3 min

• Donald Trump estime qu’il est "temps pour l’Ukraine d’avoir un nouveau président"

  • 1 min

• Au cœur des enquêtes de la police des polices

  • 3 min

• Zazie "Y'a plus d'saisons"

  • 2 min

• Attention à l'heure de vos repas

  • 3 min

• Quand votre voiture prend le volant

  • 3 min

• La reine de Thaïlande aux commandes d’un avion de chasse

  • 1 min

• Pourquoi les astronautes sont-ils constipés dans l'espace ?

  • 3 min

• Exécution en direct : Donald Trump réagit à la polémique

  • 1 min

• Un ouragan dévastateur s'abat sur la Floride

  • 2 min

• Un puissant séisme fait 27 blessés au Panama

  • 2 min

• Mobilisation des Lycéens : « Je n’accepte pas qu’on s’attaque à la profession des policiers", affirme Andréa Kotarac, porte-parole du RN

  • 2 min

• L'émouvant discours de Sophie Adenot après son retour sur Terre

  • 2 min

• Une exécution en direct aux États-Unis ?

  • 3 min

• Le champion paralympique Alexis Hanquinquant rend visite à des enfants hospitalisés

  • 2 min

• A bord du sous-marin qui explore les abysses

  • 2 min

• Primaire de la gauche : la plateforme piratée, le vote prolongé

  • 1 min

• Pourquoi autant de cambriolages chez les pompiers ?

  • 3 min

• Tué par balles, il revient témoigner au tribunal

  • 2 min

• Tornade dévastatrice en Sicile

  • 2 min

• L'extrême droite allemande lorgne l'Alsace et la Lorraine

  • 2 min

• La banane, fruit préféré des Français

  • 3 min

• Gaz lacrymogène : est-ce que c'est dangereux ?

  • 2 min

• Le prix de l'électricité peut-il rester stable ?

  • 2 min

• "On veut qu'ils ouvrent et qu'ils en vivent" : un nouveau métier pour accompagner les restaurateurs

  • 3 min

• Fin des boissons énergisantes pour les moins de 16 ans ?

  • 2 min

• TZR : qui sont les 3 000 professeurs remplaçants annoncés par le gouvernement ?

  • 2 min