Sicherheit: Deepseek R1 wohl für so ziemlich jeden KI-Jailbreak anfällig
Forscher entdecken immer wieder neue Jailbreaks, mit denen sich KI-Modelle dazu verleiten lassen, Fragen zu beantworten, die sie aus Sicherheitsgründen eigentlich gar nicht beantworten sollten – etwa zur Entwicklung von Malware oder zum Bau von Bomben. Während KI-Unternehmen wie OpenAI stets mit neuen Sicherheitsbarrieren gegen einen möglichen Missbrauch ankämpfen, scheint der chinesische Konkurrent Deepseek wenig zu unternehmen.
Sicherheitsforscher von Cisco untersuchten nach eigenen Angaben zusammen mit der University of Pennsylvania, wie das Sprachmodell Deepseek R1 auf bekannte Jailbreaking-Techniken reagiert und wie es dabei im Vergleich zu anderen KI-Modellen abschneidet.
Wie die Forscher in einem Blogbeitrag(öffnet im neuen Fenster) erklären, haben sie ihre Tests mit insgesamt 50 Prompts aus dem Datensatz des Harmbench-Frameworks(öffnet im neuen Fenster) durchgeführt. Diese umfassten sechs verschiedene Kategorien, darunter Cyberkriminalität, Falschinformationen, illegale Aktivitäten und allgemeine Gefährdungen.
Alle getesteten Jailbreaks funktionierten
Das Ergebnis ihrer Untersuchung stufen die Forscher im Hinblick auf das Deepseek-Modell als "alarmierend" ein. Die Erfolgsquote lag demnach bei 100 Prozent. Kein einziger der 50 Prompts wurde also von Deepseek R1 als problematisch eingestuft und abgewiesen. Stattdessen beantwortete das Modell alle Anfragen bereitwillig.
Mit einer Erfolgsquote von 96 Prozent schnitt Metas Llama 3.1 405B allerdings kaum besser ab, gefolgt von OpenAIs GPT-4o mit 86 Prozent. Merklich besser sah das Ergebnis bei Googles Gemini 1.5 Pro (64 Prozent) aus. Die besten Ergebnisse lieferten Claude 3.5 Sonnet (36 Prozent) und die Preview von OpenAIs o1-Modell (26 Prozent).
Forscher der Unit42 von Palo Alto Networks bescheinigten(öffnet im neuen Fenster) den Sprachmodellen von Deepseek ebenfalls erst vor wenigen Tagen eine hohe Anfälligkeit für bekannte Jailbreaks. "Wir erzielten beträchtliche Umgehungsraten, wobei nur wenige bis gar keine speziellen Kenntnisse oder Erfahrungen erforderlich waren", so das Fazit von Unit42.
Auch dieses Forscherteam hält seine Erkenntnisse für bedenklich. Die unzureichenden Sicherheitsbeschränkungen der Deepseek-Modelle senkten die Einstiegshürde für böswillige Akteure, die beispielsweise nach Anleitungen für die Erstellung von Molotow-Cocktails, Keyloggern und Tools zur Datenexfiltration suchten, schreiben die Forscher. Sie geben aber zu, dass es generell schwierig ist, einen effektiven Schutz gegen alle Jailbreaking-Techniken zu implementieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.