Face à l’accélération fulgurante de l’intelligence artificielle, la société américaine Anthropic a appelé à une suspension collective des avancées menées par les géants du numérique, afin de permettre à la population de s’adapter sereinement aux transformations déjà en cours.
Par Yakout Abina
Le géant américain Anthropic, considéré comme l’un des acteurs majeurs de l’intelligence artificielle, a suggéré jeudi 4 juin la mise en place d’un système permettant aux entreprises du secteur de ralentir, voire de suspendre temporairement leur développement, afin de donner à la société le temps de s’adapter aux bouleversements induits par cette technologie.
« Nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès », a indiqué l’entreprise dans un texte publié par son centre de réflexion, l’Anthropic Institute.
La firme, en pleine compétition avec OpenAI, Google et le chinois DeepSeek, plaide pour la mise en place d’un système de coordination afin d’éviter qu’un acteur ne profite d’un éventuel ralentissement collectif pour prendre l’avantage.
Créateur des modèles Claude, Anthropic compare la situation actuelle à celle du traité sur les forces nucléaires à portée intermédiaire (FNI). L’entreprise rappelle que ce cadre de régulation a nécessité des décennies avant de s’établir, mais estime que l’urgence est plus grande pour l’intelligence artificielle, jugée « bien plus facile à dissimuler que des silos de missiles ».
Aux États-Unis, la proposition se heurte à une forte opposition, où de nombreux responsables politiques et dirigeants de la tech refusent tout ralentissement qui pourrait offrir un avantage décisif à la Chine. Donald Trump a toutefois affirmé avoir évoqué, lors d’une récente visite à Pékin, la possibilité d’une coopération bilatérale sur la sûreté de l’IA.
Fondée par des opposants d’OpenAI, Anthropic s’est bâtie une image de laboratoire plaçant l’éthique et la sécurité au cœur de ses recherches. Mais cette image a fini par faire l’objet de critiques de l’industrie et de responsables de la Maison-Blanche, qui lui reprochent d’exagérer les risques liés à l’intelligence artificielle, voire de pratiquer un « marketing de la peur », alors que la société est en pleine course avec OpenAI vers une entrée en Bourse.
Depuis deux mois, Anthropic restreint la diffusion de Mythos, son modèle le plus avancé, afin de renforcer ses correctifs de cybersécurité avant une mise à disposition publique. L’entreprise a annoncé la sortie de modèles aux performances équivalentes dans les prochaines semaines, et des systèmes comparables sont attendus chez ses concurrents.
Pour appuyer sa proposition de pause dans le développement de l’intelligence artificielle, Anthropic met en avant des données internes évoquant la possibilité d’atteindre un jour l’auto-amélioration récursive, c’est-à-dire la capacité d’un système d’intelligence artificielle à perfectionner ses propres algorithmes, son code ou ses invites de manière autonome, puis à utiliser cette version améliorée pour concevoir une version encore plus intelligente, créant ainsi une boucle d’optimisation exponentielle avec un rôle humain réduit.
« Rien ne garantit qu’une telle bascule soit à l’horizon », tempère l’entreprise. Mais si les tendances actuelles se poursuivent, cela deviendrait « plausible ». L’entreprise y voit autant une opportunité majeure pour la médecine, la technologie et l’économie qu’un risque de « perte de contrôle » sur des systèmes devenus trop autonomes.
Cette proposition intervient alors que la compétition mondiale autour de l’IA s’intensifie, alimentant autant l’enthousiasme que les inquiétudes sur ses impacts économiques, sociaux et éthiques.
L’intelligence artificielle dépasse déjà les humains dans certaines tâches et progresse rapidement. Pour plusieurs figures majeures du secteur, la question n’est plus de savoir si elle gagnera encore en capacités, mais jusqu’où. Certains redoutent des systèmes autonomes plus intelligents que leurs concepteurs.
« Et donc, les êtres humains deviendront les deuxièmes êtres les plus intelligents de la planète ? »
Lorsque le journaliste Scott Pelley pose cette question à Geoffrey Hinton, chercheur britanno-canadien spécialiste de l’intelligence artificielle, dans l’émission 60 Minutes de CBS News, en octobre 2023, le chercheur ne marque pratiquement aucune hésitation. « Oui », répond-il. Quelques secondes plus tôt, celui que l’on surnomme souvent le « parrain de l’intelligence artificielle » avait déjà affirmé que l’humanité pourrait bientôt se retrouver confrontée, pour la première fois de son histoire, à des systèmes plus intelligents qu’elle.
Mais Geoffrey Hinton n’est pas le seul à s’inquiéter de l’évolution de cette technologie. Plus récemment, en février 2026, l’International AI Safety Report a été publié sous la direction de Yoshua Bengio, autre lauréat du prix Turing et troisième membre d’un trio souvent considéré comme les pères fondateurs du deep learning.
Fruit du travail de plus d’une centaine de chercheurs internationaux, ce rapport constitue aujourd’hui l’une des évaluations scientifiques les plus complètes des risques liés à l’intelligence artificielle avancée.
Cette interrogation est également au cœur des travaux de Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley et l’une des principales figures mondiales de la recherche en intelligence artificielle. Depuis plusieurs années, il défend l’idée que le principal danger pourrait ne pas venir d’une intelligence artificielle malveillante, mais d’un système extrêmement performant poursuivant des objectifs qui ne correspondent pas parfaitement aux intérêts humains.
Cependant, le chercheur estime aussi, tout comme Geoffrey Hinton, que des machines beaucoup plus intelligentes que les humains pourraient être problématiques : « Si nous créons des machines significativement plus compétentes que des êtres humains dans tous les domaines pertinents, alors notre capacité à décider de notre propre avenir ne serait guère plus grande que celle des gorilles ou des chimpanzés face à la destruction de leur habitat par l’être humain », expliquait-il au mois d’octobre 2025 au cours d’une interview accordée à la BBC.
Y A
