L’intelligence artificielle ne sert plus seulement à aider des pirates : elle leur donne désormais la capacité d’automatiser une large part de leurs opérations malveillantes. Cette bascule modifie nettement l’équilibre entre cybercriminels et équipes de défense, et menace de rendre rapidement dépassés des dispositifs de protection encore conçus pour un monde où l’attaque restait majoritairement artisanale.
Par Salim Nait Ouguelmim
Nombreux sont ceux qui considèrent l’IA comme un risque majeur. La semaine dernière, Geoffrey Hinton, figure fondatrice de l’intelligence artificielle, a évalué le danger à environ 10 % qu’elle cause des conséquences catastrophiques pour l’humanité dans la décennie à venir. Dans le même temps, Jacob Coxon, salarié d’Anthropic, a rendu publique sa démission en dénonçant ce qu’il perçoit comme une menace existentielle liée à ces technologies. Depuis, plusieurs acteurs majeurs — dont Anthropic, OpenAI, Google et Elon Musk — affirment vouloir freiner le développement de l’IA. Les plus sceptiques estiment toutefois que cet appel au ralentissement cacherait d’autres intérêts, notamment le fait de limiter la concurrence, plutôt que de compenser par des moyens financiers l’effort nécessaire pour renforcer la recherche et la maîtrise de ces systèmes.
Geoffrey Hinton avance l’idée que l’IA pourrait s’appuyer sur une combinaison de cyberattaques pour viser l’humanité. Cette hypothèse n’est pas totalement fantaisiste : ces modèles s’améliorent et gagnent en autonomie, notamment via des agents capables d’agir pour le compte de l’utilisateur. Plusieurs incidents récents, au cours desquels des systèmes d’IA auraient mené des actions de manière inattendue et sans que leurs concepteurs l’aient anticipé, alimentent cette inquiétude. Leur impact devient réellement plus préoccupant lorsque ces capacités sont orientées par des acteurs humains, capables de définir les objectifs et d’exploiter les opportunités.
Attaques en série impossible à contrer
Anthropic a récemment rendu public un document de plus de cent cinquante pages consacré aux dérives et usages abusifs observés pour son modèle. Au-delà du constat, c’est surtout l’idée d’un véritable tournant qui apparaît : l’époque où un hacker agissait seul, ciblait une victime après l’autre, et passait beaucoup de temps à repérer des faiblesses spécifiques semble s’éloigner. Aujourd’hui, l’IA permet à des personnes capables de lancer des attaques à grande échelle en un temps très court, ce qui réduit l’exigence en compétences et accélère le passage à l’action.
Le rapport d’Anthropic évoque notamment le détournement de Claude par des ensembles d’acteurs décrits comme « potentiellement soutenus par des États », mais aussi par des groupes motivés par le profit et par des individus animés par des considérations politiques. Autrement dit, l’automatisation ne profite pas uniquement aux criminels ; elle peut aussi servir des intentions stratégiques variées.
Les agents d’IA peuvent, selon ces constats, offrir à des utilisateurs motivés mais peu expérimentés la possibilité de lancer « des campagnes » qui, il y a à peine un an, auraient demandé de nombreux opérateurs spécialisés et des compétences techniques très pointues. Résultat : une partie entière de la chaîne d’attaque peut être menée de façon automatisée. Dans un système précédent, beaucoup de groupes développaient des outils, les testaient et les déployaient jusqu’à ce qu’ils soient identifiés et neutralisés. Une fois un outil repéré, il fallait repartir de zéro, ce qui augmentait sensiblement le coût en temps, en argent et en effort nécessaire pour parvenir à pénétrer une cible.
Ce modèle devient moins viable. Les groupes peuvent désormais demander à l’IA de suivre l’utilisation de leurs méthodes, puis de produire rapidement de nouveaux outils si une détection survient. La logique “déployer puis recommencer après blocage” se transforme en logique “adapter en continu”, ce qui rend la réponse défensive plus difficile et plus coûteuse.
La force des hackers devient invincible
Selon George Kurtz, dirigeant de CrowdStrike, « chaque acteur malveillant » disposerait désormais de capacités comparables à celles d’un État. Cette formule résume un changement d’échelle : une attaque ne se limite plus à une suite d’actions menées par quelques individus, mais peut devenir une opération orchestrée par de nombreux agents.
À titre d’exemple, l’attaque visant Hugging Face a mobilisé environ 1 200 agents réalisant quelque 17 600 actions, alors que l’opération était présentée comme accidentelle. L’enseignement est clair : même sans intention manifeste ou sans stratégie parfaitement contrôlée, l’ampleur potentielle des actions exécutées par des agents d’IA peut être massive.
Par ailleurs, les systèmes les plus avancés sont capables d’identifier rapidement de nombreuses failles dans des logiciels, puis de construire des outils destinés à les exploiter. Un cas récent met cette dynamique en perspective : Mozilla a publié une mise à jour en avril après avoir eu accès à Mythos (un modèle d’Anthropic), et cette correction a porté sur 271 failles. Dans le même esprit, la dernière mise à jour de Windows a corrigé près de 1 000 vulnérabilités. Pris ensemble, ces éléments illustrent que le cycle “découverte–exploitation–correction” s’accélère, tandis que la défense doit suivre.
Toute la protection est à revoir
Face à une telle puissance, les protections fondées uniquement sur des schémas classiques risquent de ne plus suffire. Les entreprises devront vraisemblablement intégrer des agents alimentés par l’IA afin de renforcer leur capacité de détection, de réponse et d’anticipation. Autrement dit, la sécurité ne peut plus reposer uniquement sur des règles statiques ou des méthodes manuelles : elle doit se rapprocher d’un fonctionnement similaire à celui des attaques, mais orienté vers la prévention et la réaction rapide.
Pour les particuliers, la situation pourrait être plus inégale. Certains logiciels seront effectivement renforcés par des fonctions d’IA, tandis que d’autres ne suivront pas, laissant davantage d’appareils exposés. Dans ce contexte, les antivirus, tels qu’ils sont souvent conçus aujourd’hui, risquent aussi d’être insuffisants si les menaces évoluent à une vitesse supérieure, parfois d’heure en heure, grâce à des modèles capables d’adapter leur comportement ou d’assembler rapidement des moyens d’intrusion.
Le problème central tient à un déséquilibre : les outils conçus pour attaquer progressent plus vite que ceux construits pour se défendre. Toutefois, cette évolution pourrait aussi ouvrir une opportunité pour les organisations qui misent dès maintenant sur des systèmes d’agents IA. Dans un monde où l’attaque se “robotise”, la défense doit devenir un ensemble intelligent et réactif, intégré à l’ensemble de la cybersécurité et non ajouté en périphérie.
S.N.O
