Quixote: Ein belesener Roboter ist ein guter Roboter

Belesene Roboter sind nicht psychotisch: Mit Hilfe von Literatur soll künstliche Intelligenz lernen, was Moral ist.

Artikel veröffentlicht am ,
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut.
Roboter Pepper (Symbolbild): Wie der Protagonist einer Geschichte zu handeln, ist gut. (Bild: Werner Pluta/Golem.de)

Die Buddenbrooks, Die Hamletmaschine oder Der Vorleser: Über Jahrtausende hat die Menschheit in Geschichten moralische Werte beschrieben und tradiert. Wie sollte sich Moral also besser erklären lassen als anhand der Literaturgeschichte? Mark Riedl und Brent Harrison, zwei Forscher des Georgia Institute of Technology, wollen genau das: Roboter Moral mit Hilfe von Literatur lehren.

Stellenmarkt
  1. IT-Spezialist*in VMware vSphere / ESXi
    Hamburger Hochbahn AG, Hamburg
  2. Softwareentwickler*in Fullstack
    Atruvia AG, Karlsruhe
Detailsuche

Quixote heißt das System, das Riedl und Harrison kürzlich auf der Konferenz der Association for the Advancement of Artificial Intelligence (AAAI) präsentiert haben. Es soll Robotern beziehungsweise künstlicher Intelligenz (KI) beibringen, Geschichten zu lesen, akzeptable Abläufe zu erlernen und so zu verstehen, wie sie sich in menschlicher Gesellschaft benehmen sollen.

Kinder lernen durch Bücher, ...

"Die gesammelten Geschichten der verschiedenen Kulturen lehren Kinder anhand von Beispielen aus Fabeln, Romane und anderer Literatur angemessene und unangemessene Verhaltensweisen", sagt Riedl. "Wir glauben, dass das Verständnis für Geschichten bei Robotern psychotisches Verhalten vermeidet und dafür Entscheidungen fördert, ein angestrebtes Ziel zu erreichen, ohne dabei Menschen zu schaden."

Quixote basiert auf dem Scheherazade-System, Riedls vorherigem Forschungsprojekt: Das KI-System spinnt Geschichten aus vorgegebenen Versatzstücken. Nutzer geben Handlungselemente vor und Scheherazade bringt sie in eine logische Reihenfolge.

... KI auch

Golem Akademie
  1. Azure und AWS Cloudnutzung absichern: virtueller Zwei-Tage-Workshop
    25.–26. November 2021, virtuell
  2. Penetration Testing Fundamentals: virtueller Zwei-Tage-Workshop
    17.–18. Januar 2022, Virtuell
Weitere IT-Trainings

Scheherazade analysiert eine fiktionale Handlung und lernt, was eine normale, eine richtige Handlung ist. Diese Struktur gibt das System an Quixote weiter. Quixote macht daraus Belohnungssignale, die bestimmte Verhaltensweisen verstärken und andere bestrafen. Die KI lernt so, dass es gut ist, wie der Protagonist einer Geschichte zu handeln, und schlecht, zufällig oder wie der Antagonist zu handeln.

Als Beispiel nennen die Entwickler einen Roboter, der in einer Apotheke ein Rezept einlösen soll. Die einfachste und schnellste Variante wäre, dem Apotheker das Medikament mit Gewalt zu entwenden und damit abzuhauen. Wäre der Roboter auf Effizienz programmiert, also darauf, das Medikament schnell zu beschaffen, würde er wohl so handeln.

Sozial akzeptiert ist besser als effektiv

Langwieriger, aber dafür sozial akzeptiert ist die Variante, dass der Roboter sich anstellt und wie alle anderen wartet, bis er an der Reihe ist. Die KI erwägt viele verschiedene Handlungsmöglichkeiten. Dabei wird sie für diejenige belohnt, die der Handlung in einer Geschichte ähnelt.

Mit der Zeit lerne Quixote so, bestimmte Verhaltensweisen zu bevorzugen und andere abzulehnen. Quixote habe nicht gelernt: Du darfst nicht stehlen, sagte Riedl der britischen Tageszeitung The Guardian. Es stehle nicht, weil es Geschichten analysiert und daraus abgeleitet habe, dass Stehlen nicht akzeptabel sei.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Pixel 6 und 6 Pro im Test
Google hat es endlich geschafft

Das Pixel 6 und Pixel 6 Pro werden endlich Googles Rang als Android-Macher gerecht: Die Smartphones bieten starke Hardware und sinnvolle Software.
Ein Test von Tobias Költzsch

Pixel 6 und 6 Pro im Test: Google hat es endlich geschafft
Artikel
  1. Apple-Software-Updates: iOS 15.1, iPadOS 15.1, WatchOS 8.1 und TVOS 15.1 verfügbar
    Apple-Software-Updates
    iOS 15.1, iPadOS 15.1, WatchOS 8.1 und TVOS 15.1 verfügbar

    Die ersten größeren Aktualisierungen für iPhone, iPad, Apple Watch und Apple TV sind da. Wer das iPhone 13 verwendet, profitiert besonders.

  2. Desktop-Betriebssystem: Apple MacOS Monterey mit neuem Safari und Fokus-Funktion
    Desktop-Betriebssystem
    Apple MacOS Monterey mit neuem Safari und Fokus-Funktion

    Apple hat die finale Version seines Mac-Betriebssystems MacOS Monterey veröffentlicht. Dabei sind ein neuer Safari-Browser und eine Konzentrationsfunktion.

  3. 20 Jahre Windows XP: Der letzte XP-Fan
    20 Jahre Windows XP
    Der letzte XP-Fan

    Windows XP wird 20 Jahre alt - und nur wenige nutzen es noch täglich. Golem.de hat einen dieser Anwender besucht.
    Ein Interview von Martin Wolf

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bosch Professional günstiger • Punkte sammeln bei MM für Club-Mitglieder: 1.000 Punkte geschenkt • Alternate (u. a. Apacer 1TB SATA 86,90€ & Team Group 1TB PCIe 4.0 159,90€) • Echo Show 8 (1. Gen.) 64,99€ • Halloween Sale bei Gamesplanet • Smart Home von Eufy günstiger [Werbung]
    •  /