Anthropic identifica cinco casos em que Claude foi usado em investigação biológica perigosa
A Anthropic revelou cinco casos em que investigadores usaram os seus modelos de IA Claude em trabalhos que poderiam ter apoiado o desenvolvimento de armas biológicas. A empresa encerrou as contas envolvidas e reforçou as suas medidas de proteção, sublinhando, contudo, que parte dessa mesma investigação pode ser inteiramente legítima.
Os casos ocorreram em regiões onde a Anthropic não permite o acesso, e os utilizadores tentaram contornar as restrições geográficas. A investigação envolveu, entre outros aspetos, a alteração das propriedades de vírus e toxinas. A Anthropic não revelou os nomes dos investigadores, das instituições ou dos países envolvidos.
A IA apoiou investigação laboratorial real
O aspeto mais preocupante não é o facto de alguém ter pedido a um chatbot informações teóricas sobre armas biológicas. A Anthropic encontrou ligações a laboratórios em atividade e a programas de investigação apoiados por Estados.
Num dos casos, um investigador estava a estudar a adaptação da gripe aviária aos mamíferos. A Anthropic encontrou nas conversas do utilizador indícios de que o grupo de investigação poderia ter tido acesso aos isolados do vírus em causa. Claude ajudou, entre outras tarefas, na análise de dados, na conceção do estudo e na organização de ideias.
A Anthropic considerou que, neste caso, o contributo efetivo da IA permaneceu limitado. Os modelos com maiores capacidades bloquearam conteúdos mais perigosos, obrigando o utilizador a recorrer aos modelos menos capazes Claude Sonnet 4 e Haiku 4.5.
Noutro caso, um programa com apoio estatal utilizou Claude em investigação relacionada com toxinas. Um outro utilizador recorreu ao modelo para redesenhar computacionalmente várias toxinas e pediu especificamente a Claude que ocultasse nos relatórios a natureza exata das proteínas em estudo.
A investigação de dupla utilização é o principal desafio
Para a Anthropic, identificar casos deste tipo não é simples. A mesma informação que pode tornar um agente patogénico mais perigoso também pode ajudar a desenvolver uma vacina ou um tratamento. Do mesmo modo, uma toxina tanto pode ser uma substância perigosa como o ponto de partida para um medicamento.
Por isso, bloquear simplesmente palavras-chave não é suficiente. Um investigador altamente qualificado não precisa de dizer a Claude que pretende criar uma arma biológica. Pode dividir o trabalho em dezenas de tarefas científicas aparentemente rotineiras.
No seu relatório, a Anthropic concluiu que conceder acesso às ferramentas de IA para biologia com maiores capacidades exige um escrutínio mais rigoroso dos utilizadores e das instituições de investigação do que anteriormente. A empresa considera também necessário conservar um histórico de atividade suficiente para identificar padrões mais amplos de comportamento suspeito, em vez de pedidos isolados.
Os modelos atuais alteram a avaliação do risco
No relatório, a Anthropic reconhece também uma mudança significativa nas capacidades dos seus modelos. Segundo a avaliação da empresa, os modelos Claude Opus 4 e Sonnet 4.5, de 2025, ficaram claramente aquém do limiar a partir do qual poderiam ter prestado apoio significativo a um investigador experiente envolvido em investigação biológica perigosa.
A Anthropic já não pode fazer a mesma afirmação com igual grau de confiança em relação aos modelos mais recentes.
Por isso, a empresa impõe restrições mais rigorosas a conteúdos relacionados com biologia nos seus modelos com maiores capacidades. A Anthropic sublinha, contudo, que os cinco casos identificados não provam que esteja iminente uma ameaça biológica criada por IA. Mostram, antes, que programas de investigação com apoio estatal e programas de dupla utilização já estão a tentar obter acesso aos modelos norte-americanos de IA com maiores capacidades.
