Abo
  • Services:

Quixote: Ein belesener Roboter ist ein guter Roboter

Belesene Roboter sind nicht psychotisch: Mit Hilfe von Literatur soll künstliche Intelligenz lernen, was Moral ist.

Artikel veröffentlicht am ,
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut.
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut. (Bild: Werner Pluta/Golem.de)

Die Buddenbrooks, Die Hamletmaschine oder Der Vorleser: Über Jahrtausende hat die Menschheit in Geschichten moralische Werte beschrieben und tradiert. Wie sollte sich Moral also besser erklären lassen als anhand der Literaturgeschichte? Mark Riedl und Brent Harrison, zwei Forscher des Georgia Institute of Technology, wollen genau das: Roboter Moral mit Hilfe von Literatur lehren.

Stellenmarkt
  1. Bosch Gruppe, Abstatt
  2. OSRAM GmbH, Augsburg

Quixote heißt das System, das Riedl und Harrison kürzlich auf der Konferenz der Association for the Advancement of Artificial Intelligence (AAAI) präsentiert haben. Es soll Robotern beziehungsweise künstlicher Intelligenz (KI) beibringen, Geschichten zu lesen, akzeptable Abläufe zu erlernen und so zu verstehen, wie sie sich in menschlicher Gesellschaft benehmen sollen.

Kinder lernen durch Bücher, ...

"Die gesammelten Geschichten der verschiedenen Kulturen lehren Kinder anhand von Beispielen aus Fabeln, Romane und anderer Literatur angemessene und unangemessene Verhaltensweisen", sagt Riedl. "Wir glauben, dass das Verständnis für Geschichten bei Robotern psychotisches Verhalten vermeidet und dafür Entscheidungen fördert, ein angestrebtes Ziel zu erreichen, ohne dabei Menschen zu schaden."

Quixote basiert auf dem Scheherazade-System, Riedls vorherigem Forschungsprojekt: Das KI-System spinnt Geschichten aus vorgegebenen Versatzstücken. Nutzer geben Handlungselemente vor und Scheherazade bringt sie in eine logische Reihenfolge.

... KI auch

Scheherazade analysiert eine fiktionale Handlung und lernt, was eine normale, eine richtige Handlung ist. Diese Struktur gibt das System an Quixote weiter. Quixote macht daraus Belohnungssignale, die bestimmte Verhaltensweisen verstärken und andere bestrafen. Die KI lernt so, dass es gut ist, wie der Protagonist einer Geschichte zu handeln, und schlecht, zufällig oder wie der Antagonist zu handeln.

Als Beispiel nennen die Entwickler einen Roboter, der in einer Apotheke ein Rezept einlösen soll. Die einfachste und schnellste Variante wäre, dem Apotheker das Medikament mit Gewalt zu entwenden und damit abzuhauen. Wäre der Roboter auf Effizienz programmiert, also darauf, das Medikament schnell zu beschaffen, würde er wohl so handeln.

Sozial akzeptiert ist besser als effektiv

Langwieriger, aber dafür sozial akzeptiert ist die Variante, dass der Roboter sich anstellt und wie alle anderen wartet, bis er an der Reihe ist. Die KI erwägt viele verschiedene Handlungsmöglichkeiten. Dabei wird sie für diejenige belohnt, die der Handlung in einer Geschichte ähnelt.

Mit der Zeit lerne Quixote so, bestimmte Verhaltensweisen zu bevorzugen und andere abzulehnen. Quixote habe nicht gelernt: Du darfst nicht stehlen, sagte Riedl der britischen Tageszeitung The Guardian. Es stehle nicht, weil es Geschichten analysiert und daraus abgeleitet habe, dass Stehlen nicht akzeptabel sei.



Anzeige
Top-Angebote
  1. ab 23,99€
  2. ab 899,00€ (jetzt vorbestellbar!)
  3. (aktuell u. a.Intenso 128 GB microSDXC 10,99€, Verbatim 128 GB USB-Stick 12,99€)
  4. 105€ (Vergleichspreis ab € 119,90€)

theonlyone 23. Feb 2016

Uncanny Vallay ist das Thema zur Optik. Entweder schaut man das der Roboter überhaupt...


Folgen Sie uns
       


Asus Zenbook Pro 14 - Test

Das Touchpad des Asus Zenbook Pro 14 ist ein kleiner Bildschirm. Hört sich nutzlos an, hat uns aber dennoch im Test überzeugt.

Asus Zenbook Pro 14 - Test Video aufrufen
Struktrurwandel: IT soll jetzt die Kohle nach Cottbus bringen
Struktrurwandel
IT soll jetzt die Kohle nach Cottbus bringen

In Cottbus wird bald der letzte große Braunkohle-Tagebau zum Badesee. Die ansässige Wirtschaft sucht nach neuen Geldquellen und will die Stadt zu einem wichtigen IT-Standort machen. Richten könnten das die Informatiker der Technischen Uni - die werden aber direkt nach ihrem Abschluss abgeworben.
Von Maja Hoock

  1. IT-Jobporträt Spieleprogrammierer "Ich habe mehr Code gelöscht als geschrieben"
  2. Recruiting Wenn die KI passende Mitarbeiter findet
  3. Softwareentwicklung Agiles Arbeiten - ein Fallbeispiel

Far Cry New Dawn im Test: Die Apokalypse ist chaotisch, spaßig und hat Pay to Win
Far Cry New Dawn im Test
Die Apokalypse ist chaotisch, spaßig und hat Pay to Win

Grizzly frisst Bandit, Buggy rammt Grizzly: Far Cry New Dawn zeigt eine wunderbar chaotische Postapokalypse, die gerade bei der Geschichte und dem Schwierigkeitsgrad viel besser macht als der Vorgänger. Schade, dass die bunte Welt von Mikrotransaktionen getrübt wird.
Ein Test von Oliver Nickel

  1. Far Cry New Dawn angespielt Das gleiche Chaos im neuen Gewand
  2. New Dawn Ubisoft setzt Far Cry 5 postapokalyptisch fort

Raumfahrt: Aus Marzahn mit der Esa zum Mond
Raumfahrt
Aus Marzahn mit der Esa zum Mond

Die Esa versucht sich an einem neuen Ansatz: der Kooperation mit privaten Unternehmen in der Raumforschung. Die PT Scientists aus Berlin-Marzahn sollen dafür bis 2025 einen Mondlander liefern.
Von Frank Wunderlich-Pfeiffer

  1. Raumfahrt Die Nasa will schnell eine neue Mondlandefähre
  2. Chang'e 4 Chinesische Sonde landet auf der Rückseite des Mondes
  3. Raumfahrt 2019 - Die Rückkehr des Mondfiebers?

    •  /