• IT-Karriere:
  • Services:

Quixote: Ein belesener Roboter ist ein guter Roboter

Belesene Roboter sind nicht psychotisch: Mit Hilfe von Literatur soll künstliche Intelligenz lernen, was Moral ist.

Artikel veröffentlicht am ,
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut.
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut. (Bild: Werner Pluta/Golem.de)

Die Buddenbrooks, Die Hamletmaschine oder Der Vorleser: Über Jahrtausende hat die Menschheit in Geschichten moralische Werte beschrieben und tradiert. Wie sollte sich Moral also besser erklären lassen als anhand der Literaturgeschichte? Mark Riedl und Brent Harrison, zwei Forscher des Georgia Institute of Technology, wollen genau das: Roboter Moral mit Hilfe von Literatur lehren.

Stellenmarkt
  1. König + Neurath AG, Karben
  2. simple system GmbH & Co. KG, München

Quixote heißt das System, das Riedl und Harrison kürzlich auf der Konferenz der Association for the Advancement of Artificial Intelligence (AAAI) präsentiert haben. Es soll Robotern beziehungsweise künstlicher Intelligenz (KI) beibringen, Geschichten zu lesen, akzeptable Abläufe zu erlernen und so zu verstehen, wie sie sich in menschlicher Gesellschaft benehmen sollen.

Kinder lernen durch Bücher, ...

"Die gesammelten Geschichten der verschiedenen Kulturen lehren Kinder anhand von Beispielen aus Fabeln, Romane und anderer Literatur angemessene und unangemessene Verhaltensweisen", sagt Riedl. "Wir glauben, dass das Verständnis für Geschichten bei Robotern psychotisches Verhalten vermeidet und dafür Entscheidungen fördert, ein angestrebtes Ziel zu erreichen, ohne dabei Menschen zu schaden."

Quixote basiert auf dem Scheherazade-System, Riedls vorherigem Forschungsprojekt: Das KI-System spinnt Geschichten aus vorgegebenen Versatzstücken. Nutzer geben Handlungselemente vor und Scheherazade bringt sie in eine logische Reihenfolge.

... KI auch

Scheherazade analysiert eine fiktionale Handlung und lernt, was eine normale, eine richtige Handlung ist. Diese Struktur gibt das System an Quixote weiter. Quixote macht daraus Belohnungssignale, die bestimmte Verhaltensweisen verstärken und andere bestrafen. Die KI lernt so, dass es gut ist, wie der Protagonist einer Geschichte zu handeln, und schlecht, zufällig oder wie der Antagonist zu handeln.

Als Beispiel nennen die Entwickler einen Roboter, der in einer Apotheke ein Rezept einlösen soll. Die einfachste und schnellste Variante wäre, dem Apotheker das Medikament mit Gewalt zu entwenden und damit abzuhauen. Wäre der Roboter auf Effizienz programmiert, also darauf, das Medikament schnell zu beschaffen, würde er wohl so handeln.

Sozial akzeptiert ist besser als effektiv

Langwieriger, aber dafür sozial akzeptiert ist die Variante, dass der Roboter sich anstellt und wie alle anderen wartet, bis er an der Reihe ist. Die KI erwägt viele verschiedene Handlungsmöglichkeiten. Dabei wird sie für diejenige belohnt, die der Handlung in einer Geschichte ähnelt.

Mit der Zeit lerne Quixote so, bestimmte Verhaltensweisen zu bevorzugen und andere abzulehnen. Quixote habe nicht gelernt: Du darfst nicht stehlen, sagte Riedl der britischen Tageszeitung The Guardian. Es stehle nicht, weil es Geschichten analysiert und daraus abgeleitet habe, dass Stehlen nicht akzeptabel sei.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. (u. a. Konstruktionsspielzeug von LEGO)
  2. (u. a. MSI GeForce RTX 3060 VENTUS 3X OC 12G für 589€)

theonlyone 23. Feb 2016

Uncanny Vallay ist das Thema zur Optik. Entweder schaut man das der Roboter überhaupt...


Folgen Sie uns
       


Radeon RX 6800 (XT) im Test mit Benchmarks

Lange hatte AMD bei Highend-Grafikkarten nichts zu melden, mit den Radeon RX 6800 (XT) kehrt die Gaming-Konkurrenz zurück.

Radeon RX 6800 (XT) im Test mit Benchmarks Video aufrufen
The Legend of Zelda: Das Vorbild für alle Action-Adventures
The Legend of Zelda
Das Vorbild für alle Action-Adventures

The Legend of Zelda von 1986 hat das Genre geprägt. Wir haben den 8-Bit-Klassiker erneut gespielt - und waren hin- und hergerissen.
Von Benedikt Plass-Fleßenkämper


    XPS 13 (9310) im Test: Dells Ultrabook ist besser denn je
    XPS 13 (9310) im Test
    Dells Ultrabook ist besser denn je

    Wir dachten ja, bis auf den Tiger-Lake-Chip habe Dell am XPS 13 nichts geändert. Doch es gibt einige willkommene Änderungen.
    Ein Test von Marc Sauter

    1. Dell-Ultrabook XPS 13 mit weniger vertikalen Pixeln
    2. Notebooks Dells XPS 13 mit Intels Tiger Lake kommt
    3. XPS 13 (9300) im Test Dells i-Tüpfelchen

    Surface Duo im Test: Microsoft, bitte bring ein Surface Duo 2!
    Surface Duo im Test
    Microsoft, bitte bring ein Surface Duo 2!

    Microsofts neuer Ausflug in die Smartphone-Welt ist gewagt - das Konzept stimmt aber. Nicht stimmig hingegen sind Software, Hardware und Preis.
    Ein Test von Tobias Költzsch

    1. Error 1016 Windows-Händler Lizengo ist online nicht mehr erreichbar
    2. Kubernetes Microsofts einfache Cloud-Laufzeitumgebung Dapr wird stabil
    3. Microsoft Surface Duo kostet in Deutschland ab 1.550 Euro

      •  /