Anthropic identifierar fem fall där Claude användes för farlig biologisk forskning
Anthropic har redovisat fem fall där forskare använde företagets AI-modeller Claude i forskning som skulle ha kunnat bidra till utvecklingen av biologiska vapen. Företaget stängde de berörda kontona och skärpte sina skyddsåtgärder, men betonar samtidigt att delar av samma forskning kan vara helt legitim.
Fallen inträffade i regioner där Anthropic inte tillåter åtkomst, och användarna försökte kringgå de geografiska begränsningarna. Forskningen omfattade bland annat förändringar av egenskaper hos virus och toxiner. Anthropic uppgav inte namnen på de berörda forskarna, institutionerna eller länderna.
AI bidrog till faktisk laboratorieforskning
Det mest oroande är inte att någon bad en chattbot om teoretisk information om biologiska vapen. Anthropic fann kopplingar till aktiva laboratorier och statsstödda forskningsprogram.
I ett fall studerade en forskare hur fågelinfluensa anpassar sig till däggdjur. Anthropic fann tecken i användarens konversationer på att forskargruppen kan ha haft tillgång till de relevanta virusisolaten. Claude bistod bland annat med dataanalys, studiedesign och strukturering av idéer.
Anthropic bedömde att AI:ns faktiska bidrag i det här fallet förblev begränsat. Mer kapabla modeller blockerade farligare innehåll, vilket tvingade användaren att vända sig till de mindre kapabla modellerna Claude Sonnet 4 och Haiku 4.5.
I ett annat fall använde ett statsstött program Claude för forskning om toxiner. Ytterligare en användare utnyttjade modellen för att med beräkningsmetoder omkonstruera olika toxiner och bad uttryckligen Claude att dölja de studerade proteinernas exakta beskaffenhet i rapporter.
Forskning med dubbla användningsområden är den stora utmaningen
För Anthropic är det inte enkelt att identifiera sådana fall. Samma information som kan göra en patogen farligare kan också bidra till utvecklingen av ett vaccin eller en behandling. På motsvarande sätt kan ett toxin vara både ett farligt ämne och en utgångspunkt för ett läkemedel.
Det räcker därför inte att bara blockera nyckelord. En högt kvalificerad forskare behöver inte berätta för Claude att avsikten är att skapa ett biologiskt vapen. Arbetet kan delas upp i ett stort antal till synes rutinmässiga vetenskapliga uppgifter.
Anthropic konstaterade i sin rapport att tillgång till de mest kapabla AI-verktygen för biologisk forskning kräver en grundligare granskning av användare och forskningsinstitutioner än tidigare. Företaget anser också att det är nödvändigt att spara tillräckligt mycket aktivitetshistorik för att kunna identifiera bredare misstänkta mönster i stället för enskilda frågor.
Nuvarande modeller förändrar riskbedömningen
I rapporten konstaterar Anthropic också att modellernas kapacitet har förändrats avsevärt. Enligt företagets bedömning låg 2025 års modeller Claude Opus 4 och Sonnet 4.5 tydligt under den nivå där de skulle ha kunnat ge betydande hjälp till en erfaren forskare som ägnade sig åt farlig biologisk forskning.
Anthropic kan inte längre med samma säkerhet säga detsamma om nyare modeller.
Företaget tillämpar därför striktare begränsningar för biologiskt innehåll i sina mest kapabla modeller. Anthropic betonar dock att de fem identifierade fallen inte bevisar att ett biologiskt hot skapat med hjälp av AI är nära förestående. De visar i stället att statsstödda forskningsprogram och program med dubbla användningsområden redan försöker få tillgång till de mest kapabla amerikanska AI-modellerna.
