• IT-Karriere:
  • Services:

Maschinelles Lernen: IBM entwickelt KI, die ethischen Vorgaben folgt

Ist ein Video für Kinder geeignet? Ein selbstlernendes Empfehlungssystem soll das anhand von vorgegebenen ethischen Werten herausfinden. IBM-Forscher arbeiten an der KI, die aufgestellte Regeln auf große Datenmengen anwenden kann - in Zukunft vielleicht auf das Internet.

Artikel veröffentlicht am ,
Richtig oder falsch? Ein KI-System soll es herausfinden.
Richtig oder falsch? Ein KI-System soll es herausfinden. (Bild: Pixabay.com/CC0 1.0)

Forscher bei IBM arbeiten an einem KI-System, das nach ethischen und moralischen Vorgaben handeln können soll. Konkret geht es um Software, die Inhalte aus dem Netz nach verschiedenen Kriterien aussucht und Nutzern anbietet. Das berichtet das IT-Businessmagazin Venturebeat. Dabei sollen möglichst viele Ergebnisse bei gleichzeitigem Einhalten der Regeln angezeigt werden. Geführt wird das Forschungsteam von der IBM-Forscherin und Leiterin der KI-Ethik-Abteilung Francesca Rossi.

Stellenmarkt
  1. GEWOBAG Wohnungsbau-Aktiengesellschaft Berlin, Berlin
  2. Stadtwerke München GmbH, München

Eine solche Methode erfordert an sich kein maschinelles Lernen, beispielsweise wenn einem Programm feste Regeln vorgegeben sind, die Nutzer per Sprach- oder Textkommando abrufen können. "Es ist einfach eine Regelsammlung zu erstellen", sagt IBM-Mitforscher Nicholas Mattel. Das Problem ist, dass sich solche vorgegebenen Regeln nicht allgemein auf den Inhalt des gesamten Internets anwenden lassen.

Aus diesem Grund lernt das KI-System anhand von Beispielen deren Eigenschaften und stuft diese etwa als jugendschutzwürdig oder als für Kinder empfehlenswert ein. Das Forschungsteam konnte das bisher an einer Software für Videovorschläge testen. Mit dem Nach-Beispiel-lernen-Ansatz könnte sich das aber auch auf Literatur, Musik, Bilder oder andere Felder ausweiten lassen. Das Training des Modells erfolgt dabei zunächst offline, indem Beispiele als Referenzen zugeführt werden. Daraus erstellt sich das System eigene Regeln und kategorisiert Videos entsprechend.

In der Onlinephase können Nutzer das System direkt zur Auswahl von Videoinhalten im Netz anwenden. IBM stellt dabei einen Regler zur Verfügung, der die Balance zwischen ethischen Werten und den Präferenzen der Nutzer - in diesem Testfall Kinder - festlegt. Das ist notwendig, da Vorlieben und einschränkende Regeln oft kollidieren.

Noch nicht ausgereift genug

Ausgegebene Empfehlungen auf Basis ethischer Regeln funktionieren bei IBMs Projekt momentan nur auf Ja/Nein-Basis. Außerdem benötigt das KI-System noch zwei menschliche Parteien: Nutzer und Regelsetzer. Viele Inhalte im Netz werden jedoch oft persönlich von einer Person ausgewählt. Diese müssten sich entsprechend ihre eigenen Regeln setzen. Das könnte beispielsweise so aussehen, dass Menschen sich selbst Zeiten am Smartphone setzen oder angeben, wie bewusst sie sich ernähren wollen.

Potenzielle Anwendungsfälle gibt es viele, allerdings ist das System bisher noch nicht so allgemein verwendbar. Es muss also vorerst auf dem altmodischen Weg gedacht werden: mit Menschenverstand.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. 49,00€
  2. 89,00€
  3. 71,71€
  4. (u. a. Asus Zenbook 14 für 1.049,00€, Lenovo Ideapad 330 für 439,00€, MSI Trident 3 für 759...

daarkside 17. Jul 2018

Aus linker Sicht(heute, nicht gestern!) ist es unmoralisch Menschen den Gruppen nach zu...

Aki-San 17. Jul 2018

Siehe Wall-E..

Aki-San 17. Jul 2018

Also von einer KI, welche ein Filtering nach einem Muster macht zu einer KI die nach...

DooMMasteR 17. Jul 2018

Ethik hindert Roboter/KI nicht daran Menschenleben als wertlos einzustufen, einzig Asimov...


Folgen Sie uns
       


Nubia Z20 - Test

Das Nubia Z20 hat sowohl auf der Vorderseite als auch auf der Rückseite einen Bildschirm. Dadurch ergeben sich neue Möglichkeiten der Benutzung, wie sich Golem.de im Test angeschaut hat.

Nubia Z20 - Test Video aufrufen
Interview: Die Liebe für den Flight Simulator war immer da
Interview
"Die Liebe für den Flight Simulator war immer da"

Die prozedural erstellte Erde, der Quellcode vom letzten MS-Flugsimulator und eine Gemeinsamkeit mit Star Citizen: Golem.de hat mit Jörg Neumann über Technik und das Fliegen gesprochen. Neumann leitet bei Microsoft die Entwicklung des Flight Simulator.
Ein Interview von Peter Steinlechner

  1. Flug-Simulation Microsoft bereitet Alphatest des Flight Simulator vor
  2. Microsoft Neuer Flight Simulator soll Fokus auf Simulation legen

Staupilot: Der Zulassungsstau löst sich langsam auf
Staupilot
Der Zulassungsstau löst sich langsam auf

Nach jahrelangen Verhandlungen soll es demnächst internationale Zulassungskriterien für hochautomatisierte Autos geben. Bei höheren Automatisierungsgraden strebt die Bundesregierung aber einen nationalen Alleingang an.
Ein Bericht von Friedhelm Greis

  1. Autonomes Fahren Ermittler geben Testfahrerin Hauptschuld an Uber-Unfall
  2. Ermittlungsberichte Wie die Uber-Software den tödlichen Unfall begünstigte
  3. Firmentochter gegründet VW will in fünf Jahren autonom fahren

Radeon RX 5500 (4GB) im Test: AMDs beste 200-Euro-Karte seit Jahren
Radeon RX 5500 (4GB) im Test
AMDs beste 200-Euro-Karte seit Jahren

Mit der Radeon RX 5500 hat AMD endlich wieder eine sparsame und moderne Mittelklasse-Grafikkarte im Angebot. Verglichen mit Nvidias Geforce GTX 1650 Super reicht es zum Patt - aber nicht in allen Bereichen.
Ein Test von Marc Sauter

  1. Workstation-Grafikkarte AMDs Radeon Pro W5700 hat USB-C-Anschluss
  2. Navi-Grafikeinheit Apple bekommt Vollausbau und AMD bringt RX 5300M
  3. Navi-14-Grafikkarte AMD stellt Radeon RX 5500 vor

    •  /