Quixote: Ein belesener Roboter ist ein guter Roboter

Belesene Roboter sind nicht psychotisch: Mit Hilfe von Literatur soll künstliche Intelligenz lernen, was Moral ist.

Artikel veröffentlicht am ,
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut.
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut. (Bild: Werner Pluta/Golem.de)

Die Buddenbrooks, Die Hamletmaschine oder Der Vorleser: Über Jahrtausende hat die Menschheit in Geschichten moralische Werte beschrieben und tradiert. Wie sollte sich Moral also besser erklären lassen als anhand der Literaturgeschichte? Mark Riedl und Brent Harrison, zwei Forscher des Georgia Institute of Technology, wollen genau das: Roboter Moral mit Hilfe von Literatur lehren.

Stellenmarkt
  1. Projektmanager*in Digital (m/w/d)
    Landeshauptstadt Stuttgart, Stuttgart
  2. IT-Systemadministrator für Infrastruktur (m/w/d)
    CREATON GmbH, Wertingen
Detailsuche

Quixote heißt das System, das Riedl und Harrison kürzlich auf der Konferenz der Association for the Advancement of Artificial Intelligence (AAAI) präsentiert haben. Es soll Robotern beziehungsweise künstlicher Intelligenz (KI) beibringen, Geschichten zu lesen, akzeptable Abläufe zu erlernen und so zu verstehen, wie sie sich in menschlicher Gesellschaft benehmen sollen.

Kinder lernen durch Bücher, ...

"Die gesammelten Geschichten der verschiedenen Kulturen lehren Kinder anhand von Beispielen aus Fabeln, Romane und anderer Literatur angemessene und unangemessene Verhaltensweisen", sagt Riedl. "Wir glauben, dass das Verständnis für Geschichten bei Robotern psychotisches Verhalten vermeidet und dafür Entscheidungen fördert, ein angestrebtes Ziel zu erreichen, ohne dabei Menschen zu schaden."

Quixote basiert auf dem Scheherazade-System, Riedls vorherigem Forschungsprojekt: Das KI-System spinnt Geschichten aus vorgegebenen Versatzstücken. Nutzer geben Handlungselemente vor und Scheherazade bringt sie in eine logische Reihenfolge.

... KI auch

Golem Karrierewelt
  1. C++ Programmierung Grundlagen (keine Vorkenntnisse benötigt): virtueller Drei-Tage-Workshop
    16.-18.01.2023, virtuell
  2. ITIL 4® Foundation: virtueller Zwei-Tage-Workshop
    12./13.12.2022, virtuell
Weitere IT-Trainings

Scheherazade analysiert eine fiktionale Handlung und lernt, was eine normale, eine richtige Handlung ist. Diese Struktur gibt das System an Quixote weiter. Quixote macht daraus Belohnungssignale, die bestimmte Verhaltensweisen verstärken und andere bestrafen. Die KI lernt so, dass es gut ist, wie der Protagonist einer Geschichte zu handeln, und schlecht, zufällig oder wie der Antagonist zu handeln.

Als Beispiel nennen die Entwickler einen Roboter, der in einer Apotheke ein Rezept einlösen soll. Die einfachste und schnellste Variante wäre, dem Apotheker das Medikament mit Gewalt zu entwenden und damit abzuhauen. Wäre der Roboter auf Effizienz programmiert, also darauf, das Medikament schnell zu beschaffen, würde er wohl so handeln.

Sozial akzeptiert ist besser als effektiv

Langwieriger, aber dafür sozial akzeptiert ist die Variante, dass der Roboter sich anstellt und wie alle anderen wartet, bis er an der Reihe ist. Die KI erwägt viele verschiedene Handlungsmöglichkeiten. Dabei wird sie für diejenige belohnt, die der Handlung in einer Geschichte ähnelt.

Mit der Zeit lerne Quixote so, bestimmte Verhaltensweisen zu bevorzugen und andere abzulehnen. Quixote habe nicht gelernt: Du darfst nicht stehlen, sagte Riedl der britischen Tageszeitung The Guardian. Es stehle nicht, weil es Geschichten analysiert und daraus abgeleitet habe, dass Stehlen nicht akzeptabel sei.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Tesla-Fabrik
In Grünheide soll "totales Chaos" herrschen

Die Tesla-Fabrik in Grünheide hinkt ihren Produktionszielen noch weit hinterher. Es gibt zu wenig Personal oder die Mitarbeiter kündigen wieder.

Tesla-Fabrik: In Grünheide soll totales Chaos herrschen
Artikel
  1. Elbit Systems Deutschland: Neue Bundeswehr-Funkgeräte lösen Retrogeräte von 1982 ab
    Elbit Systems Deutschland
    Neue Bundeswehr-Funkgeräte lösen Retrogeräte von 1982 ab

    Vor rund einem Jahr hat das Beschaffungsamt der Bundeswehr für 600 Millionen Euro Tausende Funkgeräte aus dem Jahr 1982 nachbauen lassen. Nun werden ganz neue angeschafft.

  2. Europäischer Rat: Einigung über Bargeldobergrenze von 10.000 Euro
    Europäischer Rat
    Einigung über Bargeldobergrenze von 10.000 Euro

    Der Europäische Rat hat sich auf eine Bargeldobergrenze von 10.000 Euro verständigt. Auch Kryptowährungen sollen streng reguliert werden.

  3. Angespielt: Diablo 4 wird brutal, makaber und ein bisschen eklig
    Angespielt
    Diablo 4 wird brutal, makaber und ein bisschen eklig

    Open-World-Freiheiten, dynamische Events und eine geteilte Spielwelt: Golem.de hat Diablo 4 angespielt und mit den Entwicklern gesprochen.
    Von Olaf Bleich

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bei Amazon bestellbar • Tiefstpreise: Asus RTX 4080 1.689,90€, MSI 28" 4K 579€, Roccat Kone Pro 39,99€, Asus RTX 6950 XT 939€ • Alternate: Acer Gaming-Monitor 27" 159,90€, Razer BlackWidow V2 Mini 129,90€ • 20% Extra-Rabatt bei ebay • Amazon Last Minute Angebote [Werbung]
    •  /