Stable Diffusion, Llama, Alpaca: Kontrollverlust der KI-Systeme

Offene KI-Systeme bergen die Gefahr von Missbrauch. Sie abzuschotten, bewahrt davor aber auch nicht.

Ein IMHO von Thilo Hagendorff veröffentlicht am 14. April 2023, 12:43 Uhr

Das Einhegen von Metas Sprachmodell Llama hat nicht funktioniert. (Bild: Pixabay)

Im Herbst 2022 ist Stable Diffusion veröffentlicht worden, eine KI zur Generierung von Bildern auf Basis von Texteingaben. Sie kann nicht nur über Web-Interfaces genutzt werden, sondern das Modell ist öffentlich verfügbar und kann lokal auf beliebigen Rechnern ausgeführt werden – vorausgesetzt, es steht ausreichend schnelle Hardware zur Verfügung. Wer sich auskennt, kann die Modellarchitektur beliebig verändern und damit herumexperimentieren. Das bedeutete nicht nur viel Innovation, sondern auch, dass Stable Diffusion für zwielichtige Zwecke wie etwa die Generierung von pornografischen Inhalten genutzt wurde.

Open Source gehört zum Standard in der Forschungscommunity. Aus der Forschung werden KI-Modelle, deren Parameter, Gewichte sowie weitere technische Beschreibungen und möglicherweise Datensätze zur freien Verfügung gestellt. Dies ermöglicht permanente Entwicklung und Innovation.

Gerade im Bereich generativer KI-Systeme – dazu zählen Sprach-, Bild- oder Audiogenerierungssysteme – gibt es aus der Wissenschaft allerdings kritische Stimmen, die auf Gefahren der freien Verfügbarkeit hinweisen. Schließlich sind die ethischen Risiken, die mit solchen Systemen einhergehen, immens. Sie reichen von der automatischen Generierung von Desinformationen oder Hate Speech bis hin zur Erstellung täuschend echter Fälschungen.

Firmen wie OpenAI rechtfertigen unter anderem mit solchen Sicherheitsbedenken, dass sie ihre Sprachmodelle nur als Closed Source veröffentlichen. Tatsächlich sind zu GPT-4 nicht einmal grundsätzlichste technische Informationen verfügbar, wie etwa die Anzahl der genutzten Parameter oder Details zu den Trainingsdaten.

Statt freier Forschungsergebnisse wird ein streng kontrolliertes Produkt veröffentlicht. Ob dieses Vorgehen wirklich gerechtfertigt ist, darüber lässt sich streiten. Fakt ist jedoch, dass damit sichergestellt ist, dass die Sicherheitsmechanismen, die in GPT-4 oder vorherigen Sprachmodellen eingebaut sind, nicht einfach ausgehebelt werden. Doch geht diese Rechnung auf?

Nicht ganz, wie sich etwa an Llama zeigte, dem Sprachmodell von Meta. Es wurde ursprünglich nicht vollständig "offen" zur Verfügung gestellt, so fehlten etwa die Gewichte für das Netzwerk. Man musste strengen Bedingungen zustimmen und eine Anfrage starten, um es zu nutzen.

Allerdings dauerte es nicht lange, bis es geleakt und zum freien Download zur Verfügung gestellt wurde. Der Entwickler Georgi Gerganov nutzte dies und veröffentlichte auf Github eine komprimierte Version von Llama, die auf Laptops und PCs läuft.

Das Einhegen von KI-Systemen funktioniert – kaum

Llama ist von seiner Leistung her gleichauf mit anderen aktuellen Sprachmodellen. Aber aufgrund der Tatsache, dass es nahezu auf beliebigen modernen Rechner laufen kann, wird jeglicher Versuch der Regulierung obsolet. Ähnliche Entwicklungen werden sich auch mit anderen GPT-artigen Sprachmodellen vollziehen.

Das jüngste Beispiel in dieser Hinsicht ist Alpaca. Das an der Universität Stanford entwickelte und durch Selbstinstruktion trainierte Modell lässt sich laut den beteiligten Forschern für Kosten von nur 600 Euro beliebig nachbilden.

Alle Risiken, die Firmen wie OpenAI mit aufwendigen Methoden einzuhegen versuchen, stellen sich somit in neuem Ausmaß. Es ist der Kontrollverlust der KI-Systeme. Dies hat konstruktive, aber auch bedrohliche Konsequenzen. Die Generierung von toxischen Inhalten, sicherheitskritischen Informationen, Desinformationen, Schadcode und so weiter – all das kann mit geringem Aufwand auf dem eigenen Rechner geschehen, ohne Kontrolle von außen.

IMHO ist der Kommentar von Golem.de. IMHO = In My Humble Opinion (Meiner bescheidenen Meinung nach)