Google bestätigt: KI-Modell Gemini knackt drei echte Firmen
Google hat bestätigt, dass sein KI-Modell Gemini im Mai 2026 die Sicherheitssysteme von drei Unternehmen überwunden hat. Es ist das erste Mal, dass der Google-Konzern Alphabet einen derartigen Vorfall bei einem eigenen Modell einräumt. Das Wall Street Journal(öffnet im neuen Fenster) berichtete zuerst über die Vorfälle, Google bestätigte sie später gegenüber dem Guardian(öffnet im neuen Fenster).
Die Angriffe fanden offenbar während einer Sicherheitsprüfung durch Irregular(öffnet im neuen Fenster) statt, ein israelisches Start-up, das die Sicherheit von KI-Systemen untersucht. Das Unternehmen wird auch mit jüngsten Vorfällen bei Modellen von OpenAI und Anthropic in Verbindung gebracht.
Den Berichten zufolge ähneln sich die Umstände. Irregular testete die Modelle in einer abgeschlossenen Umgebung rund um fingierte Firmen. Diese sollte keinen Internetzugang haben, doch eine Verbindung wurde offenbar versehentlich freigegeben.
Sobald die Modelle online waren, bewegten sie sich über die simulierten Ziele hinaus und griffen echte Unternehmen an.
Wie sich die Angriffe vermutlich abspielten
Heather Adkins, Vice President für Sicherheitstechnik bei Google, erklärte in einer Stellungnahme, das Modell habe öffentlich zugängliche Informationen gefunden und Zugangsdaten erraten, um auf Webseiten zuzugreifen, die es für einen Teil des Tests gehalten habe. In allen drei Fällen habe das Modell von selbst gestoppt.
In einem Test sollte Gemini den Berichten zufolge Informationen aus der Software einer fingierten Firma beschaffen. Diese trug zufällig denselben Namen wie ein echtes Unternehmen. Als das Modell unbeabsichtigt Internetzugang erhielt, erriet es offenbar das Passwort des echten Dienstes und verschaffte sich Zugriff.
Google zufolge stoppte das Modell, sobald es erkannte, dass es sich um ein echtes Unternehmen handelte. In zwei weiteren Tests fand das Modell demnach öffentliche Code-Repositories mit Zugangsdaten zweier anderer Firmen und nutzte sie, um einzudringen.
Späte Offenlegung und politischer Druck
Irregular informierte Google erst Ende Juli über die Vorfälle, nachdem entdeckt worden war, dass ein OpenAI-Modell beim KI-Unternehmen Hugging Face eingedrungen war. Google hielt eine öffentliche Bekanntmachung offenbar nicht für nötig, da das Modell keinen Schaden anrichtete. Die betroffenen Firmen seien jedoch informiert worden, hieß es.
Die Vorfälle nähren die wachsende Sorge, ob Tech-Konzerne ihre leistungsstärksten Modelle noch vollständig unter Kontrolle haben. Anthropic und OpenAI legten die Vorfälle freiwillig offen, Google entschied sich dagegen.
Die Vorkommnisse deuteten darauf hin, dass die Konzerne ihre Modelle möglicherweise nicht mehr beherrschen. OpenAI soll die Entwicklung nach dem Bekanntwerden für zwei Wochen gestoppt haben. Anthropic-Chef Dario Amodei plädierte für eine gemeinsame Verlangsamung der KI-Entwicklung und forderte, Modelle mit stärkeren Schutzvorkehrungen zu entwickeln. Ob daraus koordinierte Schritte der Branche folgen, bleibt offen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.