Anthropic identifiziert fünf Fälle, in denen Claude für gefährliche biologische Forschung eingesetzt wurde
Anthropic hat fünf Fälle offengelegt, in denen Forschende seine Claude-KI-Modelle für Arbeiten einsetzten, die zur Entwicklung biologischer Waffen hätten beitragen können. Das Unternehmen sperrte die beteiligten Konten und verschärfte seine Schutzmaßnahmen, betonte jedoch zugleich, dass manche dieser Forschungsarbeiten völlig legitim sein könnten.
Die Fälle ereigneten sich in Regionen, in denen Anthropic den Zugriff nicht gestattet. Die Nutzer versuchten, die geografischen Beschränkungen zu umgehen. Die Forschung befasste sich unter anderem mit der Veränderung von Viruseigenschaften und Toxinen. Anthropic nannte weder die beteiligten Forschenden und Institutionen noch die betreffenden Länder.
KI unterstützte reale Laborforschung
Besonders besorgniserregend ist nicht, dass jemand einen Chatbot nach theoretischen Informationen über biologische Waffen fragte. Anthropic fand Verbindungen zu in Betrieb befindlichen Laboren und staatlich unterstützten Forschungsprogrammen.
In einem Fall untersuchte ein Forscher die Anpassung der aviären Influenza an Säugetiere. Anthropic fand in den Gesprächen des Nutzers Hinweise darauf, dass die Forschungsgruppe möglicherweise Zugang zu den entsprechenden Virusisolaten hatte. Claude half unter anderem bei der Datenanalyse, der Studienplanung und der Strukturierung von Ideen.
Anthropic bewertete den tatsächlichen Beitrag der KI in diesem Fall als weiterhin begrenzt. Leistungsfähigere Modelle blockierten gefährlichere Inhalte, sodass der Nutzer auf die weniger leistungsfähigen Modelle Claude Sonnet 4 und Haiku 4.5 ausweichen musste.
In einem weiteren Fall nutzte ein staatlich unterstütztes Programm Claude für die Forschung an Toxinen. Ein anderer Nutzer setzte das Modell ein, um verschiedene Toxine rechnergestützt neu zu gestalten, und forderte Claude ausdrücklich auf, die genaue Art der untersuchten Proteine in Berichten zu verschleiern.
Dual-Use-Forschung ist die zentrale Herausforderung
Für Anthropic ist es nicht einfach, solche Fälle zu erkennen. Dieselben Informationen, die einen Krankheitserreger gefährlicher machen können, können auch bei der Entwicklung eines Impfstoffs oder einer Behandlung helfen. Ebenso kann ein Toxin sowohl ein gefährlicher Stoff als auch der Ausgangspunkt für ein Arzneimittel sein.
Deshalb reicht es nicht aus, lediglich Schlüsselwörter zu blockieren. Hochqualifizierte Forschende müssen Claude nicht mitteilen, dass sie eine biologische Waffe entwickeln wollen. Sie können die Arbeit in Dutzende scheinbar routinemäßige wissenschaftliche Aufgaben aufteilen.
Anthropic kam in seinem Bericht zu dem Schluss, dass Nutzer und Forschungseinrichtungen gründlicher als bisher überprüft werden müssen, bevor sie Zugang zu den leistungsfähigsten KI-Werkzeugen im Biologiebereich erhalten. Das Unternehmen hält es zudem für notwendig, ausreichend umfangreiche Aktivitätsverläufe zu speichern, um umfassendere verdächtige Muster statt nur einzelner Anfragen erkennen zu können.
Aktuelle Modelle verändern die Risikobewertung
Anthropic räumt in dem Bericht zudem ein, dass sich die Fähigkeiten seiner Modelle erheblich verändert haben. Nach Einschätzung des Unternehmens blieben die Modelle Claude Opus 4 und Sonnet 4.5 aus dem Jahr 2025 deutlich unter der Schwelle, ab der sie erfahrene Forschende bei gefährlicher biologischer Forschung wesentlich hätten unterstützen können.
Bei neueren Modellen kann Anthropic dies nicht mehr mit derselben Sicherheit behaupten.
Deshalb gelten bei den leistungsfähigsten Modellen des Unternehmens strengere Beschränkungen für biologische Inhalte. Anthropic betont jedoch, dass die fünf identifizierten Fälle nicht beweisen, dass eine von KI geschaffene biologische Bedrohung unmittelbar bevorsteht. Sie zeigen vielmehr, dass staatlich unterstützte Forschungsprogramme und Dual-Use-Forschungsprogramme bereits versuchen, Zugang zu den leistungsfähigsten US-amerikanischen KI-Modellen zu erhalten.
