Anthropic identifiserer fem tilfeller der Claude ble brukt til farlig biologisk forskning

Tilfellene fant sted i regioner der Anthropic ikke tillater tilgang, og brukerne forsøkte å omgå de geografiske begrensningene. Forskningen omfattet blant annet endring av egenskaper hos virus og toksiner. Anthropic oppga ikke navnene på forskerne, institusjonene eller landene som var involvert.

KI bisto i reell laboratorieforskning

Det mest bekymringsfulle er ikke at noen ba en samtalerobot om teoretisk informasjon om biologiske våpen. Anthropic fant forbindelser til laboratorier i drift og statlig støttede forskningsprogrammer.

I ett tilfelle studerte en forsker hvordan fugleinfluensa tilpasser seg pattedyr. Anthropic fant indikasjoner i brukerens samtaler på at forskergruppen kan ha hatt tilgang til de aktuelle virusisolatene. Claude bisto blant annet med dataanalyse, utforming av studien og strukturering av ideer.

Anthropic vurderte at KIs faktiske bidrag i dette tilfellet fortsatt var begrenset. Mer avanserte modeller blokkerte farligere innhold, noe som tvang brukeren til å gå over til de mindre avanserte modellene Claude Sonnet 4 og Haiku 4.5.

I et annet tilfelle brukte et statlig støttet program Claude til forskning på toksiner. En annen bruker benyttet modellen til å redesigne ulike toksiner ved hjelp av beregningsmetoder og ba spesifikt Claude om å skjule nøyaktig hva slags proteiner som ble studert, i rapporter.

Forskning med dobbelt bruksområde er den store utfordringen

For Anthropic er det ikke enkelt å identifisere slike tilfeller. Den samme informasjonen som kan gjøre et smittestoff farligere, kan også bidra til å utvikle en vaksine eller behandling. På samme måte kan et toksin både være et farlig stoff og et utgangspunkt for et legemiddel.

Derfor er det ikke nok bare å blokkere nøkkelord. En høyt kvalifisert forsker trenger ikke å fortelle Claude at målet er å lage et biologisk våpen. Vedkommende kan dele arbeidet opp i flere titalls tilsynelatende rutinemessige vitenskapelige oppgaver.

Anthropic konkluderte i rapporten med at tilgang til de mest avanserte biologiske KI-verktøyene krever grundigere kontroll av brukere og forskningsinstitusjoner enn tidligere. Selskapet mener også at det er nødvendig å lagre tilstrekkelig aktivitetshistorikk for å kunne identifisere bredere, mistenkelige mønstre fremfor enkeltstående forespørsler.

Dagens modeller endrer risikovurderingen

Anthropic erkjenner også i rapporten at modellenes kapasitet har endret seg betydelig. Ifølge selskapets vurdering lå 2025-modellene Claude Opus 4 og Sonnet 4.5 klart under terskelen der de kunne ha gitt betydelig bistand til en erfaren forsker som drev med farlig biologisk forskning.

Anthropic kan ikke lenger si det samme med like stor sikkerhet om nyere modeller.

Derfor har selskapet strengere begrensninger for biologisk innhold i sine mest avanserte modeller. Anthropic understreker imidlertid at de fem identifiserte tilfellene ikke beviser at en KI-skapt biologisk trussel er nært forestående. De viser i stedet at statlig støttede forskningsprogrammer og programmer med dobbelt bruksområde allerede forsøker å få tilgang til de mest avanserte amerikanske KI-modellene.