Abo
  • Services:

Maschinelles Lernen: IBM entwickelt KI, die ethischen Vorgaben folgt

Ist ein Video für Kinder geeignet? Ein selbstlernendes Empfehlungssystem soll das anhand von vorgegebenen ethischen Werten herausfinden. IBM-Forscher arbeiten an der KI, die aufgestellte Regeln auf große Datenmengen anwenden kann - in Zukunft vielleicht auf das Internet.

Artikel veröffentlicht am ,
Richtig oder falsch? Ein KI-System soll es herausfinden.
Richtig oder falsch? Ein KI-System soll es herausfinden. (Bild: Pixabay.com/CC0 1.0)

Forscher bei IBM arbeiten an einem KI-System, das nach ethischen und moralischen Vorgaben handeln können soll. Konkret geht es um Software, die Inhalte aus dem Netz nach verschiedenen Kriterien aussucht und Nutzern anbietet. Das berichtet das IT-Businessmagazin Venturebeat. Dabei sollen möglichst viele Ergebnisse bei gleichzeitigem Einhalten der Regeln angezeigt werden. Geführt wird das Forschungsteam von der IBM-Forscherin und Leiterin der KI-Ethik-Abteilung Francesca Rossi.

Stellenmarkt
  1. Robert Bosch GmbH, München
  2. Schwarz Zentrale Dienste KG, Heilbronn

Eine solche Methode erfordert an sich kein maschinelles Lernen, beispielsweise wenn einem Programm feste Regeln vorgegeben sind, die Nutzer per Sprach- oder Textkommando abrufen können. "Es ist einfach eine Regelsammlung zu erstellen", sagt IBM-Mitforscher Nicholas Mattel. Das Problem ist, dass sich solche vorgegebenen Regeln nicht allgemein auf den Inhalt des gesamten Internets anwenden lassen.

Aus diesem Grund lernt das KI-System anhand von Beispielen deren Eigenschaften und stuft diese etwa als jugendschutzwürdig oder als für Kinder empfehlenswert ein. Das Forschungsteam konnte das bisher an einer Software für Videovorschläge testen. Mit dem Nach-Beispiel-lernen-Ansatz könnte sich das aber auch auf Literatur, Musik, Bilder oder andere Felder ausweiten lassen. Das Training des Modells erfolgt dabei zunächst offline, indem Beispiele als Referenzen zugeführt werden. Daraus erstellt sich das System eigene Regeln und kategorisiert Videos entsprechend.

In der Onlinephase können Nutzer das System direkt zur Auswahl von Videoinhalten im Netz anwenden. IBM stellt dabei einen Regler zur Verfügung, der die Balance zwischen ethischen Werten und den Präferenzen der Nutzer - in diesem Testfall Kinder - festlegt. Das ist notwendig, da Vorlieben und einschränkende Regeln oft kollidieren.

Noch nicht ausgereift genug

Ausgegebene Empfehlungen auf Basis ethischer Regeln funktionieren bei IBMs Projekt momentan nur auf Ja/Nein-Basis. Außerdem benötigt das KI-System noch zwei menschliche Parteien: Nutzer und Regelsetzer. Viele Inhalte im Netz werden jedoch oft persönlich von einer Person ausgewählt. Diese müssten sich entsprechend ihre eigenen Regeln setzen. Das könnte beispielsweise so aussehen, dass Menschen sich selbst Zeiten am Smartphone setzen oder angeben, wie bewusst sie sich ernähren wollen.

Potenzielle Anwendungsfälle gibt es viele, allerdings ist das System bisher noch nicht so allgemein verwendbar. Es muss also vorerst auf dem altmodischen Weg gedacht werden: mit Menschenverstand.



Anzeige
Blu-ray-Angebote
  1. (u. a. 3 Blu-rays für 15€, 2 Neuheiten für 15€)

daarkside 17. Jul 2018

Aus linker Sicht(heute, nicht gestern!) ist es unmoralisch Menschen den Gruppen nach zu...

Aki-San 17. Jul 2018

Siehe Wall-E..

Aki-San 17. Jul 2018

Also von einer KI, welche ein Filtering nach einem Muster macht zu einer KI die nach...

DooMMasteR 17. Jul 2018

Ethik hindert Roboter/KI nicht daran Menschenleben als wertlos einzustufen, einzig Asimov...


Folgen Sie uns
       


Sky Ticket TV-Stick im Test

Wir haben den Sky Ticket TV Stick getestet. Der Streamingstick mit Fernbedienung bringt Sky Ticket auf den Fernseher, wenn dieser den Streamingdienst des Pay-TV-Anbieters nicht unterstützt. Auf dem Stick läuft das aktuelle Sky Ticket, das im Vergleich zur Vorgängerversion erheblich verbessert wurde. Den Sky Ticket TV gibt es quasi kostenlos, weil dieser nur zusammen mit passenden Sky-Ticket-Abos im Wert von 30 Euro angeboten wird.

Sky Ticket TV-Stick im Test Video aufrufen
Life is Strange 2 im Test: Interaktiver Road-Movie-Mystery-Thriller
Life is Strange 2 im Test
Interaktiver Road-Movie-Mystery-Thriller

Keine heile Teenagerwelt mit Partys und Liebeskummer: Allein in den USA der Trump-Ära müssen zwei Brüder mit mexikanischen Wurzeln in Life is Strange 2 nach einem mysteriösen Unfall überleben. Das Adventure ist bewegend und spannend - trotz eines grundsätzlichen Problems.
Von Peter Steinlechner

  1. Adventure Leisure Suit Larry landet im 21. Jahrhundert

Lichtverschmutzung: Was Philips Hue mit der Tierwelt im Garten macht
Lichtverschmutzung
Was Philips Hue mit der Tierwelt im Garten macht

LEDs für den Garten sind energiesparend und praktisch - für Menschen und manche Fledermäuse. Für viele Tiere haben sie jedoch fatale Auswirkungen. Aber mit einigen Änderungen lässt sich die Gartenbeleuchtung so gestalten, dass sich auch Tiere wohlfühlen.
Ein Bericht von Werner Pluta

  1. Play und Signe Neue farbige Philips-Hue-Leuchten für indirektes Licht
  2. Smart Home Weitere Hue-Leuchten fürs Badezimmer vorgestellt
  3. Badezimmerspiegel Philips Hue kommt ins Bad

HP Elitebook 840 und Toshiba Tecra X40: Es kann nur eines geben
HP Elitebook 840 und Toshiba Tecra X40
Es kann nur eines geben

Nicht nur Lenovo baut gute Business-Notebooks, auch HP und Toshiba haben Produkte, die vergleichbar sind. Wir stellen je ein Modell der beiden Hersteller mit ähnlicher Hardware gegenüber: das eine leichter, das andere mit überlegenem Akku - ein knapper Gewinner nach Punkten.
Ein Test von Oliver Nickel

  1. Portégé X20W-D-145 Toshiba stellt alte Hardware im flexiblen Chassis vor
  2. Tecra X40-E-10W Toshibas 14-Zoll-Thinkpad-Pendant kommt mit LTE
  3. Dell, HP, Lenovo AMDs Ryzen Pro Mobile landet in allen Business-Notebooks

    •  /