Anthropic recense cinq cas d’utilisation de Claude dans des recherches biologiques dangereuses

Ces cas se sont produits dans des régions où Anthropic n’autorise pas l’accès à ses services, et les utilisateurs ont tenté de contourner les restrictions géographiques. Les recherches portaient notamment sur la modification des propriétés de virus et sur des toxines. Anthropic n’a révélé ni le nom des chercheurs, ni celui des institutions, ni les pays concernés.

L’IA a contribué à de véritables travaux en laboratoire

L’aspect le plus préoccupant n’est pas que quelqu’un ait demandé à un chatbot des informations théoriques sur les armes biologiques. Anthropic a découvert des liens avec des laboratoires en activité et des programmes de recherche soutenus par des États.

Dans un cas, un chercheur étudiait l’adaptation de la grippe aviaire aux mammifères. Anthropic a relevé dans les conversations de l’utilisateur des éléments laissant penser que l’équipe de recherche avait peut-être accès aux isolats viraux concernés. Claude a notamment contribué à l’analyse des données, à la conception de l’étude et à la structuration des idées.

Anthropic a estimé que la contribution réelle de l’IA était restée limitée dans ce cas. Les modèles les plus performants ont bloqué les contenus les plus dangereux, contraignant l’utilisateur à se tourner vers les modèles moins performants Claude Sonnet 4 et Haiku 4.5.

Dans un autre cas, un programme soutenu par un État a utilisé Claude pour des recherches sur des toxines. Un autre utilisateur s’est servi du modèle pour remanier informatiquement différentes toxines et a expressément demandé à Claude de dissimuler dans les rapports la nature exacte des protéines étudiées.

La recherche à double usage constitue le principal défi

Pour Anthropic, repérer de tels cas n’est pas simple. Les mêmes informations susceptibles de rendre un agent pathogène plus dangereux peuvent également contribuer à la mise au point d’un vaccin ou d’un traitement. De même, une toxine peut être à la fois une substance dangereuse et le point de départ d’un médicament.

Il ne suffit donc pas de bloquer certains mots-clés. Un chercheur hautement qualifié n’a pas besoin de dire à Claude qu’il souhaite créer une arme biologique. Il peut diviser son travail en dizaines de tâches scientifiques apparemment ordinaires.

Dans son rapport, Anthropic conclut que l’octroi d’un accès aux outils d’IA les plus performants dans le domaine de la biologie nécessite un contrôle plus approfondi qu’auparavant des utilisateurs et des établissements de recherche. L’entreprise juge également nécessaire de conserver un historique d’activité suffisant afin de repérer des schémas suspects plus larges, plutôt que des requêtes isolées.

Les modèles actuels modifient l’évaluation des risques

Dans son rapport, Anthropic reconnaît également une évolution importante des capacités de ses modèles. Selon l’évaluation de l’entreprise, les modèles Claude Opus 4 et Sonnet 4.5 de 2025 restaient nettement en deçà du seuil auquel ils auraient pu apporter une aide significative à un chercheur expérimenté menant des travaux biologiques dangereux.

Anthropic ne peut plus l’affirmer avec la même assurance au sujet des modèles plus récents.

L’entreprise applique par conséquent des restrictions plus strictes aux contenus biologiques sur ses modèles les plus performants. Anthropic souligne toutefois que les cinq cas recensés ne prouvent pas l’imminence d’une menace biologique créée grâce à l’IA. Ils montrent en revanche que des programmes de recherche soutenus par des États et à double usage tentent déjà d’accéder aux modèles d’IA américains les plus performants.