Sprachmodelle: Moral lässt sich nicht trainieren
KI-Insider Mit der größeren Verbreitung von KI-Systemen wie ChatGPT oder Claude wird eine Frage immer spannender: Welche Werte und Moralvorstellungen vertreten diese Modelle eigentlich?
Große Sprachmodelle sind derzeit das Mittel der Wahl, um KI-Systeme mit menschlicher Kommunikation und menschlichen Arbeits- und Lebenswelten zu verknüpfen. ChatGPT, Claude und andere haben heute Millionen von Nutzern und stehen an der Schwelle, zur wichtigsten Technologie zu werden – nicht nur, um Texte zu generieren, sondern auch, um Information zu suchen und bei Entscheidungen zu helfen. Daher ist es von großer Bedeutung zu hinterfragen, welche Werte und Moralvorstellungen diese Sprachmodelle vertreten. Denn anders als zum Texte schreiben gibt es hier keine Ground-Truth-Daten.
