KI-Sicherheit: Anthropic sperrt Wissenschaftler wegen Biowaffen-Forschung
Das KI-Unternehmen Anthropic dokumentiert in einem aktuellen Bericht(öffnet im neuen Fenster) Fälle von Missbrauch seiner KI-Modelle durch Wissenschaftler. Das Unternehmen sperrte demnach Nutzer, die die Systeme zur potenziellen Entwicklung biologischer Waffen einsetzten. Die Erkennung solcher Risiken gewinnt an Bedeutung, da neuere KI-Modelle wissenschaftliche Arbeiten zunehmend leistungsfähig unterstützen.
Der Bericht beschreibt Fallstudien aus sieben Missbrauchskategorien: biologischer Missbrauch, konventionelle Waffenentwicklung, Cyberoperationen, Einflussoperationen, Überwachung, Betrug und unautorisierte Modellreplikation. Die Unterscheidung von Missbrauch und regulärer Forschung erweist sich als komplex, da sich die Entwicklung von Impfstoffen technisch kaum von der Erstellung einer Biowaffe unterscheidet. Anthropic entschied in allen Zweifelsfällen vorsorglich restriktiv.
Jacob Klein, Leiter der Threat Intelligence bei Anthropic, betonte in der New York Times(öffnet im neuen Fenster), dass Anträge auf Forschung oft vielschichtig seien und nicht zwingend eine offenkundig schädliche Absicht zeigten.
Erkennung von Risikoforschung
Im Mai 2026 schlug der biologische Sicherheitsklassifikator von Anthropic an, als ein Nutzer Claude um Unterstützung bei einem Förderantrag bat. Der Antrag betraf Gain-of-Function-Forschung am Chikungunya-Virus, für das keine zugelassene Behandlung existiert. Die geplante Arbeit zielte darauf ab, die Übertragbarkeit des Virus zu erhöhen und das Umgehen der Immunabwehr zu ermöglichen. Zudem wies das Vorhaben eine Anbindung an ein militärisches Forschungsinstitut auf.
Weitere Fälle im biologischen Bereich betrafen Gain-of-Function-Forschung zur Übertragbarkeit der Vogelgrippe auf Säugetiere, Arbeiten zu Orthopoxviren, die Erstellung eines Toxin-Peptid-Atlasses mit Optimierungspipeline sowie die computergestützte Neugestaltung von Toxinen.
Konsequenzen und Schutzmaßnahmen
Anthropic sperrte die Konten der betroffenen Nutzer und verwendet die Ergebnisse der Untersuchungen zur Weiterentwicklung der Sicherheitsfilter. Das Unternehmen hält Namen von beteiligten Personen, Institutionen, Ländern sowie konkrete biologische Verfahren unter Verschluss.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.