Anthropic identifica cinco casos en los que Claude se utilizó para investigaciones biológicas peligrosas
Anthropic ha revelado cinco casos en los que investigadores utilizaron sus modelos de IA Claude en trabajos que podrían haber contribuido al desarrollo de armas biológicas. La empresa cerró las cuentas implicadas y reforzó sus medidas de protección, aunque subraya que algunas de esas mismas investigaciones pueden ser totalmente legítimas.
Los casos se produjeron en regiones en las que Anthropic no permite el acceso, y los usuarios intentaron eludir las restricciones geográficas. Las investigaciones incluían, entre otras cuestiones, la alteración de las propiedades de virus y toxinas. Anthropic no reveló los nombres de los investigadores, las instituciones ni los países implicados.
La IA ayudó en investigaciones reales de laboratorio
El aspecto más preocupante no es que alguien pidiera a un chatbot información teórica sobre armas biológicas. Anthropic encontró vínculos con laboratorios en funcionamiento y programas de investigación respaldados por Estados.
En uno de los casos, un investigador estudiaba la adaptación de la gripe aviar a los mamíferos. Anthropic encontró indicios en las conversaciones del usuario de que el grupo de investigación podría haber tenido acceso a los aislados del virus pertinentes. Claude ayudó, entre otras tareas, a analizar datos, diseñar el estudio y estructurar ideas.
Anthropic consideró que la contribución real de la IA en este caso seguía siendo limitada. Los modelos más capaces bloquearon los contenidos más peligrosos, lo que obligó al usuario a recurrir a los modelos menos capaces Claude Sonnet 4 y Haiku 4.5.
En otro caso, un programa respaldado por un Estado utilizó Claude para investigar toxinas. Otro usuario empleó el modelo para rediseñar computacionalmente diversas toxinas y pidió expresamente a Claude que ocultara en los informes la naturaleza exacta de las proteínas estudiadas.
La investigación de doble uso es el gran desafío
Para Anthropic, identificar este tipo de casos no es sencillo. La misma información que puede hacer más peligroso un patógeno también puede ayudar a desarrollar una vacuna o un tratamiento. Del mismo modo, una toxina puede ser tanto una sustancia peligrosa como el punto de partida para un medicamento.
Por tanto, no basta con bloquear palabras clave. Un investigador altamente cualificado no necesita decirle a Claude que quiere crear un arma biológica. Puede dividir el trabajo en decenas de tareas científicas aparentemente rutinarias.
Anthropic concluyó en su informe que conceder acceso a las herramientas de IA para biología más capaces exige examinar a los usuarios y a las instituciones de investigación con mayor rigor que hasta ahora. La empresa también considera necesario conservar un historial de actividad suficiente para detectar patrones sospechosos más amplios, en lugar de consultas aisladas.
Los modelos actuales cambian la evaluación del riesgo
Anthropic también reconoce en el informe un cambio significativo en las capacidades de sus modelos. Según la evaluación de la empresa, los modelos Claude Opus 4 y Sonnet 4.5 de 2025 se situaban claramente por debajo del umbral a partir del cual podrían haber prestado una ayuda significativa a un investigador experimentado dedicado a investigaciones biológicas peligrosas.
Anthropic ya no puede afirmar lo mismo con igual rotundidad sobre los modelos más recientes.
Por ello, la empresa aplica restricciones más estrictas al contenido biológico en sus modelos más capaces. Anthropic subraya, no obstante, que los cinco casos identificados no demuestran que una amenaza biológica creada mediante IA sea inminente. Más bien, muestran que programas respaldados por Estados y proyectos de investigación de doble uso ya están intentando acceder a los modelos de IA estadounidenses más capaces.
