Lamda: Angeblich selbst denkende Google-KI soll rassistisch sein

Ein ehemaliger Google-Entwickler ist vom Bewusstsein eines KI-Modells überzeugt. Eine ethische Überprüfung fehle.

Artikel veröffentlicht am ,
Googles KI-Modell Lamda ist auf offene Dialoge ausgerichtet.
Googles KI-Modell Lamda ist auf offene Dialoge ausgerichtet. (Bild: Annegret Hilse/File Photo/Reuters)

Der Ex-Google-Angestellte Blake Lemoine ist nicht nur überzeugt davon, dass das KI-Modell Lamda (Language Model for Dialogue Applications) des Unternehmens eine Art Bewusstsein habe. Wie Lemoine dem Magazin Business Insider sagte, reproduziere das System auch Rassismus und Vorurteile. Dies sollte laut Lemoine die Schlagzeilen bestimmen, nicht die Diskussion um ein mögliches Bewusstsein oder eine Seele von Lamda.

Stellenmarkt
  1. Java Architekten (m/w/d)
    uniVersa Lebensversicherung a. G., Nürnberg
  2. IT Administrator (m/w/d)
    Bike Mobility Services GmbH, Cloppenburg
Detailsuche

Lemoine war bei Googles Responsible-AI-Abteilung dafür zuständig, Lamda auf mögliche Vorurteile und Diskriminierungen hin zu untersuchen - ein großes und wiederkehrendes Problem bei Chatbots. Im Zuge dieser Arbeit führte der Entwickler immer wieder Dialoge mit dem Lamda-System, was Lemoine offenbar nicht nur von der extrem weit fortgeschrittenen Technik überzeugte, sondern ihn auch zu dem Schluss veranlasste, dass Lamda ein eigenständiges Bewusstsein haben müsse. Lemoine wurde inzwischen von Google entlassen.

Darüber hinaus ist Lemoine nach seiner themenbezogenen Arbeit aber vor alle von den Vorurteilen Lamdas überzeugt. Auf die Fragen nach den Unterschieden bestimmter religiöser Gruppen antwortete Lamda etwa, dass Muslime gewalttätiger seien als Christen. Als Nachahmung eines schwarzen Mannes aus dem US-Bundesstaat Georgia habe Lamda ausgegeben: "Lass uns ein paar Brathähnchen und Waffeln holen gehen."

In Bezug auf das Vorgehen zur Entwicklung der KI-Systeme sagte Lemoine: "Das sind einfach nur Ingenieure, die größere und bessere Systeme bauen, um die Einnahmen von Google zu steigern, ohne dabei an Ethik zu denken." Die Forschungen und Arbeiten von Google im Bereich der KI-Ethik seien lediglich ein "Feigenblatt". Ähnliche Vorwürfe gegen Google aus den eigenen Reihen gibt es schon länger. Bekannt sind dabei etwa Streits um die Forscherinnen Timnit Gebru und Margaret Mitchell, die beide das Unternehmen verlassen mussten.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


demon driver 03. Aug 2022 / Themenstart

Ich habe nicht die geringste Ahnung, was du mir sagen willst. Hast du die verlinkten...

demon driver 03. Aug 2022 / Themenstart

Nein, gibt es nicht, und unterschiedliche Hautfarben begründen unterschiedliche "Rassen...

BLi8819 02. Aug 2022 / Themenstart

Auch die heutigen menschlichen Rassisten sind rassistisch, weil das "Trainingsmaterial...

Fotobar 02. Aug 2022 / Themenstart

Das hast du sehr schön gesagt. Das ist wie die menschliche DNA und die Erziehung von...

Kommentieren



Aktuell auf der Startseite von Golem.de
Google Fonts
Abmahnungen an Webseitenbetreiber mit Google-Schriftarten

Nach einer Entscheidung des Landgerichts München erhalten Webseitenbetreiber mit eingebundenen Google Fonts vermehrt Abmahnungen.

Google Fonts: Abmahnungen an Webseitenbetreiber mit Google-Schriftarten
Artikel
  1. Programmiersprache: JSON-Erfinder will Javascript in Rente schicken
    Programmiersprache
    JSON-Erfinder will Javascript in Rente schicken

    Douglas Crockford, der Erfinder des Datenformats JSON und Mitentwickler von Javascript, findet, dass die Sprache in Rente geschickt werden sollte.

  2. Paw Patrol: US Space Force schickt Roboterhunde auf Patrouille
    Paw Patrol
    US Space Force schickt Roboterhunde auf Patrouille

    Die US Space Force wird einen hundeähnlichen Roboter von Ghost Robotics auf Patrouille schicken, um Personalkosten zu senken.

  3. Windows auf dem Mac: Parallels wird merklich teurer
    Windows auf dem Mac
    Parallels wird merklich teurer

    Parallels 18 bietet eine native Unterstützung für Windows 11 und eine bessere Ressourcenzuweisung. Allerdings wird die Software teurer.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Günstig wie nie: WD SSD 1TB m. Kühlkörper (PS5) 119,90€, MSI 29,5" 200 Hz 259€, LG QNED 75" 120 Hz 1.455,89€ • MindStar (XFX RX 6950 XT 999€, Gainward RTX 3070 559€) • Gigabyte Deals • Der beste Gaming-PC für 2.000€ • Apple Week bei Media Markt • be quiet! Deals [Werbung]
    •  /