Anthropic individua cinque casi in cui Claude è stato usato per ricerche biologiche pericolose
Anthropic ha reso noti cinque casi in cui alcuni ricercatori hanno utilizzato i suoi modelli di IA Claude per attività che avrebbero potuto contribuire allo sviluppo di armi biologiche. L’azienda ha chiuso gli account coinvolti e rafforzato le misure di sicurezza, sottolineando però che alcune delle stesse ricerche possono essere del tutto legittime.
I casi si sono verificati in regioni in cui Anthropic non consente l’accesso e gli utenti hanno tentato di aggirare le restrizioni geografiche. Le ricerche riguardavano, tra le altre cose, la modifica delle proprietà dei virus e le tossine. Anthropic non ha reso noti i nomi dei ricercatori, degli istituti o dei Paesi coinvolti.
L’IA ha assistito vere attività di laboratorio
L’aspetto più preoccupante non è che qualcuno abbia chiesto a un chatbot informazioni teoriche sulle armi biologiche. Anthropic ha individuato collegamenti con laboratori operativi e programmi di ricerca sostenuti da Stati.
In un caso, un ricercatore stava studiando l’adattamento dell’influenza aviaria ai mammiferi. Nelle conversazioni dell’utente, Anthropic ha rilevato indicazioni secondo cui il gruppo di ricerca potrebbe aver avuto accesso ai relativi isolati virali. Claude ha fornito assistenza, tra le altre attività, nell’analisi dei dati, nella progettazione dello studio e nell’organizzazione delle idee.
Anthropic ha valutato come limitato l’effettivo contributo dell’IA in questo caso. I modelli più avanzati hanno bloccato i contenuti più pericolosi, costringendo l’utente a ricorrere ai meno avanzati Claude Sonnet 4 e Haiku 4.5.
In un altro caso, un programma sostenuto da uno Stato ha utilizzato Claude per ricerche sulle tossine. Un altro utente ha impiegato il modello per riprogettare mediante strumenti computazionali varie tossine e ha chiesto espressamente a Claude di nascondere nei rapporti l’esatta natura delle proteine studiate.
La ricerca a duplice uso è la sfida principale
Per Anthropic, individuare casi simili non è semplice. Le stesse informazioni che possono rendere più pericoloso un agente patogeno possono anche contribuire allo sviluppo di un vaccino o di una terapia. Allo stesso modo, una tossina può essere sia una sostanza pericolosa sia il punto di partenza per un farmaco.
Di conseguenza, limitarsi a bloccare determinate parole chiave non è sufficiente. Un ricercatore altamente qualificato non ha bisogno di dire a Claude di voler creare un’arma biologica. Può suddividere il lavoro in decine di attività scientifiche apparentemente ordinarie.
Nel suo rapporto, Anthropic ha concluso che consentire l’accesso ai più avanzati strumenti di IA per la ricerca biologica richiede verifiche più approfondite rispetto al passato sugli utenti e sugli istituti di ricerca. L’azienda ritiene inoltre necessario conservare uno storico delle attività sufficientemente ampio per individuare schemi sospetti più estesi, anziché singole richieste isolate.
I modelli attuali modificano la valutazione del rischio
Nel rapporto, Anthropic riconosce anche un cambiamento significativo nelle capacità dei suoi modelli. Secondo la valutazione dell’azienda, i modelli Claude Opus 4 e Sonnet 4.5 del 2025 erano nettamente al di sotto della soglia oltre la quale avrebbero potuto fornire un contributo significativo a un ricercatore esperto impegnato in attività biologiche pericolose.
Anthropic non può più affermare lo stesso con altrettanta sicurezza per i modelli più recenti.
Di conseguenza, l’azienda applica restrizioni più severe sui contenuti biologici ai suoi modelli più avanzati. Anthropic sottolinea tuttavia che i cinque casi individuati non dimostrano l’imminenza di una minaccia biologica creata con l’IA. Mostrano invece che programmi di ricerca sostenuti da Stati e attività a duplice uso stanno già tentando di accedere ai più avanzati modelli di IA statunitensi.
