Anthropic avastas viis juhtumit, kus Claude'i kasutati ohtlikeks bioloogilisteks uuringuteks
Juhtumid leidsid aset Anthropicule ligipääsuks keelatud piirkondades ning kasutajad proovisid geograafilistest piirangutest mööda pääseda. Uuringud puudutasid muu hulgas viiruste omaduste muutmist ning toksiine. Anthropic ei avaldanud teadlaste, asutuste ega riikide nimesid.
Tehisaru aitas päris laboriuuringuid
Kõige murettekitavam pole see, et keegi küsis vestlusrobotilt teoreetilist infot biorelvade kohta. Anthropic leidis seoseid reaalselt tegutsevate laborite ja riiklikult toetatud uurimisprogrammidega.
Ühes juhtumis tegeles teadlane linnugripi imetajatega kohanemise uurimisega. Anthropic leidis kasutaja vestlustest märke, et uurimisrühmal võis olla ligipääs vastavatele viiruseisolaatidele. Claude aitas muu hulgas andmeanalüüsi, uuringu kavandamise ja ideede struktureerimisega.
Anthropicu hinnangul jäi tehisaru tegelik panus selles juhtumis siiski piiratud tasemele. Tugevamad mudelid blokeerisid ohtlikuma sisu ning kasutaja pidi pöörduma nõrgemate Claude Sonnet 4 ja Haiku 4.5 mudelite poole.
Teises juhtumis kasutas riiklikult toetatud programm Claude'i toksiinidega seotud teadustöös. Veel üks kasutaja rakendas mudelit erinevate toksiinide arvutuslikuks ümberkujundamiseks ja palus Claude'il teadlikult varjata aruannetes uuritavate valkude täpset olemust.
Suur probleem on kahesuguse kasutusega teadus
Anthropicu jaoks pole selliste juhtumite tuvastamine lihtne. Sama informatsioon, millega saab muuta patogeeni ohtlikumaks, võib aidata välja töötada vaktsiini või ravi. Ka toksiin võib olla korraga ohtlik aine ja ravimi lähtekoht.
Seetõttu ei piisa lihtsast märksõnade blokeerimisest. Kõrgelt kvalifitseeritud teadlane ei pea Claude'ile ütlema, et tahab valmistada biorelva. Ta võib jagada töö kümneteks näiliselt tavapärasteks teadusülesanneteks.
Anthropic jõudis oma raportis järeldusele, et kõige võimekamatele bioloogilistele tehisarutööriistadele ligipääsu andmisel tuleb senisest rohkem kontrollida kasutaja ja teadusasutuse tausta. Ettevõte peab vajalikuks ka piisava tegevusajaloo säilitamist, tuvastamaks üksikute päringute asemel terviklikke kahtlaseid mustreid.
Praegused mudelid muudavad riskihinnangut
Anthropic tunnistab raportis ka olulist muutust oma mudelite võimekuses. 2025. aasta Claude Opus 4 ja Sonnet 4.5 jäid ettevõtte hinnangul selgelt alla taseme, kus need saanuks kogenud teadlast ohtlikus bioloogilises uurimistöös märkimisväärselt aidata.
Uuemate mudelite puhul Anthropic enam sama kindlat väidet teha ei saa.
Seetõttu rakendab ettevõte kõige võimekamatele mudelitele rangemaid bioloogilise sisu piiranguid. Anthropic rõhutab samas, et viis avastatud juhtumit ei tõesta lähenevat tehisaru abil loodud bioloogilist ohtu. Need näitavad hoopis, et riiklikult toetatud ja kahesuguse kasutusega teadusprogrammid proovivad juba praegu kõige võimekamatele USA tehisarumudelitele ligi pääseda.
