Lamda: Angeblich selbst denkende Google-KI soll rassistisch sein
Ein ehemaliger Google-Entwickler ist vom Bewusstsein eines KI-Modells überzeugt. Eine ethische Überprüfung fehle.
Der Ex-Google-Angestellte Blake Lemoine ist nicht nur überzeugt davon, dass das KI-Modell Lamda (Language Model for Dialogue Applications) des Unternehmens eine Art Bewusstsein habe. Wie Lemoine dem Magazin Business Insider sagte, reproduziere das System auch Rassismus und Vorurteile. Dies sollte laut Lemoine die Schlagzeilen bestimmen, nicht die Diskussion um ein mögliches Bewusstsein oder eine Seele von Lamda.
Lemoine war bei Googles Responsible-AI-Abteilung dafür zuständig, Lamda auf mögliche Vorurteile und Diskriminierungen hin zu untersuchen - ein großes und wiederkehrendes Problem bei Chatbots. Im Zuge dieser Arbeit führte der Entwickler immer wieder Dialoge mit dem Lamda-System, was Lemoine offenbar nicht nur von der extrem weit fortgeschrittenen Technik überzeugte, sondern ihn auch zu dem Schluss veranlasste, dass Lamda ein eigenständiges Bewusstsein haben müsse. Lemoine wurde inzwischen von Google entlassen.
Darüber hinaus ist Lemoine nach seiner themenbezogenen Arbeit aber vor alle von den Vorurteilen Lamdas überzeugt. Auf die Fragen nach den Unterschieden bestimmter religiöser Gruppen antwortete Lamda etwa, dass Muslime gewalttätiger seien als Christen. Als Nachahmung eines schwarzen Mannes aus dem US-Bundesstaat Georgia habe Lamda ausgegeben: "Lass uns ein paar Brathähnchen und Waffeln holen gehen."
In Bezug auf das Vorgehen zur Entwicklung der KI-Systeme sagte Lemoine: "Das sind einfach nur Ingenieure, die größere und bessere Systeme bauen, um die Einnahmen von Google zu steigern, ohne dabei an Ethik zu denken." Die Forschungen und Arbeiten von Google im Bereich der KI-Ethik seien lediglich ein "Feigenblatt". Ähnliche Vorwürfe gegen Google aus den eigenen Reihen gibt es schon länger. Bekannt sind dabei etwa Streits um die Forscherinnen Timnit Gebru und Margaret Mitchell, die beide das Unternehmen verlassen mussten.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
- ohne Werbung
- mit ausgeschaltetem Javascript
- mit RSS-Volltext-Feed
Ich habe nicht die geringste Ahnung, was du mir sagen willst. Hast du die verlinkten...
Nein, gibt es nicht, und unterschiedliche Hautfarben begründen unterschiedliche "Rassen...
Auch die heutigen menschlichen Rassisten sind rassistisch, weil das "Trainingsmaterial...
Das hast du sehr schön gesagt. Das ist wie die menschliche DNA und die Erziehung von...
Kommentieren