Werteausrichtung von LLMs: KI-Sicherheit darf kein Werkzeugkasten für Zensur sein
Forscher der Ludwig-Maximilians-Universität München warnen vor dem Missbrauchspotenzial, das technische KI-Sicherheitsverfahren bergen. In einem entsprechenden Positionspapier(öffnet im neuen Fenster) beschreiben die LMU-Forschenden Sarah Ball und Phil Hackemann, wie Methoden zur Werteausrichtung großer Sprachmodelle für Zensur und politische Manipulation eingesetzt werden können.
Für die Forscher gilt es grundsätzlich zu hinterfragen, wer entscheidet, welche Fragen ein KI-System beantworten darf und welche Informationen es zurückhält. In ihrem Positionspapier stellen Ball und Hackemann infrage, ob die Ausrichtung von KI-Systemen an vorgegebenen Werten und Zielen (Value Alignment) generell dem Gemeinwohl dient.
"Wir müssen verstehen, dass Sicherheitsmechanismen, die vor Missbrauch schützen sollen, selbst missbraucht werden können", sagt Ball(öffnet im neuen Fenster). Sie führt aus: "Ein Modell, das gefährliche Inhalte zuverlässig blockiert, kann mit denselben Methoden auch daran gehindert werden, legitime Informationen bereitzustellen."
Werkzeugkasten für Zensur und Manipulation
Ball und Hackemann beschreiben, wie bereits bei der Datenauswahl für Trainingsdatensätze bestimmte Informationen ausgelassen oder entfernt werden können, die dem Sprachmodell dann nicht zur Verfügung stehen. Die Ausrichtung des Modells durch menschliches Feedback, Bewertungssysteme und feste Leitlinien bietet ebenfalls Gelegenheit, die Antworten eines KI-Modells zu beeinflussen. Auch mit Systemprompts und zusätzlichen Filtern lässt sich die Ausgabe bestimmter Antworten unterdrücken.
Sie warnen außerdem davor, dass die sogenannte Alignment Community, ein weltweites Netzwerk aus Forschern, Ethikern und Entwicklern, mit den von ihnen entwickelten Sicherheitsmechanismen für KI-Modelle gleichzeitig einen Werkzeugkasten für Zensur und Manipulation bereitstellen könnte.
Um diese Risiken zu minimieren, schlagen die Forschenden die Entwicklung besserer Verfahren zur Prüfung von Zensur in KI-Modellen vor und fordern mehr Transparenz für Nutzer darüber, warum die Ausgabe bestimmter Informationen verweigert wurde. Eine größere Vielfalt an KI-Modellen könnte ebenfalls dazu beitragen, die Informationskontrolle durch einzelne Machtpole zu begrenzen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.