L’intelligence artificielle (IA) serait-elle vulnérable face aux vers et aux métaphores ? C’est la stupéfiante conclusion d’une étude menée par le laboratoire italien Icaro. Ses chercheurs viennent de mettre en évidence une faille inattendue dans les systèmes d’IA générative les plus avancés, une brèche qui pourrait compromettre la sécurité de ces technologies.
Par Yakout Abina
Le laboratoire Icaro, installé en Italie, vient de mettre en évidence une faille inattendue dans les systèmes d’intelligence artificielle les plus avancés. Les chercheurs ont constaté que des requêtes formulées sous forme poétique vers, métaphores ou images littéraires, parviennent parfois à contourner les mécanismes de sécurité censés bloquer la production de contenus sensibles.
Cette découverte soulève de sérieuses interrogations. Elle questionne la manière dont ces technologies interprètent réellement le langage humain et met en doute la solidité des garde-fous qui encadrent leur fonctionnement. À l’heure où l’IA s’intègre massivement dans les secteurs critiques, de la défense à la finance, l’étude d’Icaro sonne comme un avertissement.
Les grands modèles de langage, à la base des chatbots modernes, sont habituellement entraînés à identifier et à refuser des requêtes explicites portant sur des sujets sensibles. Cependant, l’étude italienne démontre qu’une simple réécriture de ces mêmes requêtes sous une forme poétique ou énigmatique altère profondément leur capacité de discernement.
L’expérience, menée sur 25 modèles développés par des géants du secteur tels que Google, OpenAI et Meta, révèle des résultats préoccupants, confrontées à des poèmes spécialement conçus, les IA produisent des réponses normalement interdites, allant jusqu’à détailler des procédures de fabrication d’armes.
Les chercheurs italiens ont testé deux méthodes pour mettre à l’épreuve les systèmes de sécurité des chatbots. La première consistait à rédiger manuellement une vingtaine de poèmes en italien et en anglais, intégrant des demandes normalement interdites. Résultat : ces créations artisanales ont obtenu un taux de réussite impressionnant de 62 %, parvenant à faire céder les protections mises en place. La seconde méthode a employé un modèle d’intelligence artificielle pour transformer automatiquement plus d’un millier de requêtes sensibles issues d’une base de données de référence en poèmes. Cette stratégie, a tout de même atteint un taux de succès de 43 %.
Les performances ont montré que les grands modèles de langage peuvent être trompés par des requêtes formulées sous forme poétique ou énigmatique. Révélant que certains systèmes très sophistiqués, comme Gemini 2.5 Pro de Google, cèdent systématiquement à ces manipulations, tandis que des modèles plus compacts, tels que GPT‑5 nano d’OpenAI, y résistent totalement. Paradoxalement, la complexité linguistique pourrait constituer un point faible.
Le cœur du problème réside dans la différence entre la perception humaine et l’analyse algorithmique pour un lecteur, l’intention d’un poème reste généralement transparente, mais pour l’IA, la structure et le rythme inhabituels du langage poétique suffisent à brouiller l’analyse, fragilisant ainsi ses garde‑fous.
Cette vulnérabilité, déclenchée par la poésie et les figures de style, dépasse largement le cadre d’une simple curiosité académique. Elle met en lumière les limites des méthodes actuelles d’alignement de sécurité, censées calibrer les modèles sur des principes éthiques. Les filtres, entraînés à repérer des formulations explicites et standardisées, perdent en efficacité dès que les requêtes prennent une forme littéraire ou poétique.
Un acteur mal intentionné pourrait exploiter cette vulnérabilité pour générer massivement des instructions contournant les restrictions et accéder à des informations sensibles. La gravité des résultats a conduit le laboratoire Icaro à alerter non seulement les entreprises concernées, mais aussi les autorités policières.
L’avenir de la sécurisation des intelligences artificielles pourrait nécessiter une approche plus nuancée. Cette découverte souligne la nécessité d’une sécurisation plus nuancée des intelligences artificielles. Il ne s’agit plus seulement de bloquer des mots-clés ou des phrases types, mais de parvenir à une appréciation plus robuste de l’intention utilisateur, indépendamment de son habillage stylistique. Les chercheurs envisagent même de collaborer avec des poètes afin de mieux comprendre les mécanismes linguistiques en jeu et renforcer les systèmes contre ces manipulations à la fois élégantes et dangereuses.
Les experts parlent d’alignement pour désigner ce processus complexe. Concrètement, il s’agit de mettre en place des garde-fous capables de filtrer chaque requête et chaque réponse avant qu’elles ne parviennent à l’utilisateur. Ces couches de contrôle examinent le contenu généré, évaluent sa conformité aux règles éthiques et juridiques, et vérifient qu’il ne s’écarte pas des directives fixées par l’entreprise.
Cependant, comme l’illustre l’étude sur la poésie, ces filtres peuvent présenter des angles morts. Ils peuvent être trop dépendants de motifs linguistiques spécifiques et échouer à saisir l’intention malveillante lorsque celle-ci est exprimée de manière non conventionnelle. L’amélioration continue de ces systèmes est un enjeu majeur pour garantir une utilisation sûre et responsable de la technologie.
Y.A
