Abo
  • IT-Karriere:

Quixote: Ein belesener Roboter ist ein guter Roboter

Belesene Roboter sind nicht psychotisch: Mit Hilfe von Literatur soll künstliche Intelligenz lernen, was Moral ist.

Artikel veröffentlicht am ,
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut.
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut. (Bild: Werner Pluta/Golem.de)

Die Buddenbrooks, Die Hamletmaschine oder Der Vorleser: Über Jahrtausende hat die Menschheit in Geschichten moralische Werte beschrieben und tradiert. Wie sollte sich Moral also besser erklären lassen als anhand der Literaturgeschichte? Mark Riedl und Brent Harrison, zwei Forscher des Georgia Institute of Technology, wollen genau das: Roboter Moral mit Hilfe von Literatur lehren.

Stellenmarkt
  1. Marienhaus Dienstleistungen GmbH, Ottweiler, Hermeskeil, Bitburg, Neuwied, Bad Neuenahr-Ahrweiler
  2. Infokom GmbH, Karlsruhe

Quixote heißt das System, das Riedl und Harrison kürzlich auf der Konferenz der Association for the Advancement of Artificial Intelligence (AAAI) präsentiert haben. Es soll Robotern beziehungsweise künstlicher Intelligenz (KI) beibringen, Geschichten zu lesen, akzeptable Abläufe zu erlernen und so zu verstehen, wie sie sich in menschlicher Gesellschaft benehmen sollen.

Kinder lernen durch Bücher, ...

"Die gesammelten Geschichten der verschiedenen Kulturen lehren Kinder anhand von Beispielen aus Fabeln, Romane und anderer Literatur angemessene und unangemessene Verhaltensweisen", sagt Riedl. "Wir glauben, dass das Verständnis für Geschichten bei Robotern psychotisches Verhalten vermeidet und dafür Entscheidungen fördert, ein angestrebtes Ziel zu erreichen, ohne dabei Menschen zu schaden."

Quixote basiert auf dem Scheherazade-System, Riedls vorherigem Forschungsprojekt: Das KI-System spinnt Geschichten aus vorgegebenen Versatzstücken. Nutzer geben Handlungselemente vor und Scheherazade bringt sie in eine logische Reihenfolge.

... KI auch

Scheherazade analysiert eine fiktionale Handlung und lernt, was eine normale, eine richtige Handlung ist. Diese Struktur gibt das System an Quixote weiter. Quixote macht daraus Belohnungssignale, die bestimmte Verhaltensweisen verstärken und andere bestrafen. Die KI lernt so, dass es gut ist, wie der Protagonist einer Geschichte zu handeln, und schlecht, zufällig oder wie der Antagonist zu handeln.

Als Beispiel nennen die Entwickler einen Roboter, der in einer Apotheke ein Rezept einlösen soll. Die einfachste und schnellste Variante wäre, dem Apotheker das Medikament mit Gewalt zu entwenden und damit abzuhauen. Wäre der Roboter auf Effizienz programmiert, also darauf, das Medikament schnell zu beschaffen, würde er wohl so handeln.

Sozial akzeptiert ist besser als effektiv

Langwieriger, aber dafür sozial akzeptiert ist die Variante, dass der Roboter sich anstellt und wie alle anderen wartet, bis er an der Reihe ist. Die KI erwägt viele verschiedene Handlungsmöglichkeiten. Dabei wird sie für diejenige belohnt, die der Handlung in einer Geschichte ähnelt.

Mit der Zeit lerne Quixote so, bestimmte Verhaltensweisen zu bevorzugen und andere abzulehnen. Quixote habe nicht gelernt: Du darfst nicht stehlen, sagte Riedl der britischen Tageszeitung The Guardian. Es stehle nicht, weil es Geschichten analysiert und daraus abgeleitet habe, dass Stehlen nicht akzeptabel sei.



Anzeige
Spiele-Angebote
  1. 39,99€
  2. 2,99€
  3. 149,99€ (Release noch nicht bekannt)
  4. (-75%) 7,50€

theonlyone 23. Feb 2016

Uncanny Vallay ist das Thema zur Optik. Entweder schaut man das der Roboter überhaupt...


Folgen Sie uns
       


Raspberry Pi 4B - Test

Der Raspberry Pi kann endlich zur Konkurrenz aufschließen, aber richtig glücklich werden wir mit dem neuem Pi-Modell trotz bemerkenswerter Merkmale nicht.

Raspberry Pi 4B - Test Video aufrufen
Whatsapp: Krankschreibung auf Knopfdruck
Whatsapp
Krankschreibung auf Knopfdruck

Ein Hamburger Gründer verkauft Arbeitsunfähigkeitsbescheinigungen per Whatsapp. Ist das rechtens? Ärztevertreter warnen vor den Folgen.
Von Miriam Apke

  1. Medizin Schadsoftware legt Krankenhäuser lahm
  2. Medizin Sicherheitslücken in Beatmungsgeräten
  3. Gesundheitsdaten Gesundheitsapps werden beliebter, trotz Datenschutzbedenken

Ryzen 5 3400G und Ryzen 3 3200G im Test: Picasso passt
Ryzen 5 3400G und Ryzen 3 3200G im Test
Picasso passt

Vier Zen-CPU-Kerne plus integrierte Vega-Grafikeinheit: Der Ryzen 5 3400G und der Ryzen 3 3200G sind zwar im Prinzip nur höher getaktete Chips, in ihrem Segment aber weiterhin konkurrenzlos. Das schnellere Modell hat jedoch trotz verlötetem Extra für Übertakter ein Preisproblem.
Ein Test von Marc Sauter

  1. Agesa 1003abb Viele ältere Platinen erhalten aktuelles UEFI für Ryzen 3000
  2. Ryzen 3000 Agesa 1003abb behebt RDRAND- und PCIe-Gen4-Bug
  3. Ryzen 5 3600(X) im Test Sechser-Pasch von AMD

Galaxy Note 10 im Hands on: Samsungs Stift-Smartphone kommt in zwei Größen
Galaxy Note 10 im Hands on
Samsungs Stift-Smartphone kommt in zwei Größen

Samsung hat sein neues Android-Smartphone Galaxy Note 10 präsentiert - erstmals in zwei Versionen: Die Plus-Variante hat ein größeres Display und einen größeren Akku sowie eine zusätzliche ToF-Kamera. Günstig sind sie nicht.
Ein Hands on von Tobias Költzsch

  1. Werbung Samsung bewirbt Galaxy Note 10 auf seinen Smartphones
  2. Smartphone Samsung präsentiert Kamerasensor mit 108 Megapixeln
  3. Galaxy Note 10 Samsung korrigiert Falschinformation zum Edelstahlgehäuse

    •  /