Anthropic identificerer fem tilfælde, hvor Claude blev brugt til farlig biologisk forskning
Anthropic har offentliggjort fem tilfælde, hvor forskere brugte virksomhedens Claude-modeller til forskning, der kunne have understøttet udviklingen af biologiske våben. Virksomheden lukkede de berørte konti og skærpede sine sikkerhedsforanstaltninger, men understreger samtidig, at dele af den samme forskning kan være fuldt ud legitim.
Tilfældene fandt sted i regioner, hvor Anthropic ikke tillader adgang, og brugerne forsøgte at omgå de geografiske begrænsninger. Forskningen omfattede blandt andet ændring af egenskaber ved virus og toksiner. Anthropic oplyste ikke navnene på de involverede forskere, institutioner eller lande.
AI bistod forskning i rigtige laboratorier
Det mest bekymrende er ikke, at nogen bad en chatbot om teoretiske oplysninger om biologiske våben. Anthropic fandt forbindelser til aktive laboratorier og statsstøttede forskningsprogrammer.
I ét tilfælde undersøgte en forsker, hvordan fugleinfluenza tilpasser sig pattedyr. Anthropic fandt indikationer i brugerens samtaler på, at forskergruppen muligvis havde adgang til de relevante virusisolater. Claude bistod blandt andet med dataanalyse, forsøgsdesign og strukturering af idéer.
Anthropic vurderede, at AI'ens faktiske bidrag i dette tilfælde fortsat var begrænset. Mere avancerede modeller blokerede farligere indhold, hvilket tvang brugeren til at benytte de mindre avancerede Claude Sonnet 4- og Haiku 4.5-modeller.
I et andet tilfælde brugte et statsstøttet program Claude til forskning i toksiner. En anden bruger anvendte modellen til at redesigne forskellige toksiner ved hjælp af computerberegninger og bad specifikt Claude om at skjule den præcise karakter af de undersøgte proteiner i rapporter.
Dual use-forskning er den store udfordring
For Anthropic er det ikke ligetil at identificere sådanne tilfælde. De samme oplysninger, som kan gøre et patogen farligere, kan også bidrage til at udvikle en vaccine eller behandling. Et toksin kan tilsvarende både være et farligt stof og et udgangspunkt for et lægemiddel.
Derfor er det ikke tilstrækkeligt blot at blokere bestemte nøgleord. En højt kvalificeret forsker behøver ikke fortælle Claude, at vedkommende ønsker at fremstille et biologisk våben. Arbejdet kan opdeles i snesevis af tilsyneladende rutinemæssige videnskabelige opgaver.
Anthropic konkluderede i sin rapport, at adgang til de mest avancerede AI-værktøjer inden for biologi kræver en grundigere kontrol af brugere og forskningsinstitutioner end tidligere. Virksomheden finder det også nødvendigt at gemme tilstrækkelig aktivitetshistorik, så bredere mistænkelige mønstre kan identificeres frem for blot enkeltstående forespørgsler.
De nuværende modeller ændrer risikovurderingen
Anthropic anerkender også i rapporten, at modellernes kapacitet har ændret sig markant. Ifølge virksomhedens vurdering lå Claude Opus 4- og Sonnet 4.5-modellerne fra 2025 klart under den tærskel, hvor de kunne have ydet væsentlig bistand til en erfaren forsker, der beskæftigede sig med farlig biologisk forskning.
Anthropic kan ikke længere med samme sikkerhed fremsætte den påstand om nyere modeller.
Derfor anvender virksomheden strengere begrænsninger for biologisk indhold på sine mest avancerede modeller. Anthropic understreger dog, at de fem identificerede tilfælde ikke beviser, at en AI-skabt biologisk trussel er nært forestående. De viser derimod, at statsstøttede forskningsprogrammer og programmer med både civile og militære anvendelsesmuligheder allerede forsøger at få adgang til de mest avancerede amerikanske AI-modeller.
