Maschinelles Lernen: IBM entwickelt KI, die ethischen Vorgaben folgt

Ist ein Video für Kinder geeignet? Ein selbstlernendes Empfehlungssystem soll das anhand von vorgegebenen ethischen Werten herausfinden. IBM-Forscher arbeiten an der KI, die aufgestellte Regeln auf große Datenmengen anwenden kann - in Zukunft vielleicht auf das Internet.

Artikel veröffentlicht am ,
Richtig oder falsch? Ein KI-System soll es herausfinden.
Richtig oder falsch? Ein KI-System soll es herausfinden. (Bild: Pixabay.com/CC0 1.0)

Forscher bei IBM arbeiten an einem KI-System, das nach ethischen und moralischen Vorgaben handeln können soll. Konkret geht es um Software, die Inhalte aus dem Netz nach verschiedenen Kriterien aussucht und Nutzern anbietet. Das berichtet das IT-Businessmagazin Venturebeat. Dabei sollen möglichst viele Ergebnisse bei gleichzeitigem Einhalten der Regeln angezeigt werden. Geführt wird das Forschungsteam von der IBM-Forscherin und Leiterin der KI-Ethik-Abteilung Francesca Rossi.

Stellenmarkt
  1. KIS-Betreuer iMedOne (m/w/d)
    Helios IT Service GmbH, Leipzig
  2. IT-Mitarbeiter (m/w/d) First-Level-Support
    Stadtwerke Emmendingen GmbH, Emmendingen
Detailsuche

Eine solche Methode erfordert an sich kein maschinelles Lernen, beispielsweise wenn einem Programm feste Regeln vorgegeben sind, die Nutzer per Sprach- oder Textkommando abrufen können. "Es ist einfach eine Regelsammlung zu erstellen", sagt IBM-Mitforscher Nicholas Mattel. Das Problem ist, dass sich solche vorgegebenen Regeln nicht allgemein auf den Inhalt des gesamten Internets anwenden lassen.

Aus diesem Grund lernt das KI-System anhand von Beispielen deren Eigenschaften und stuft diese etwa als jugendschutzwürdig oder als für Kinder empfehlenswert ein. Das Forschungsteam konnte das bisher an einer Software für Videovorschläge testen. Mit dem Nach-Beispiel-lernen-Ansatz könnte sich das aber auch auf Literatur, Musik, Bilder oder andere Felder ausweiten lassen. Das Training des Modells erfolgt dabei zunächst offline, indem Beispiele als Referenzen zugeführt werden. Daraus erstellt sich das System eigene Regeln und kategorisiert Videos entsprechend.

In der Onlinephase können Nutzer das System direkt zur Auswahl von Videoinhalten im Netz anwenden. IBM stellt dabei einen Regler zur Verfügung, der die Balance zwischen ethischen Werten und den Präferenzen der Nutzer - in diesem Testfall Kinder - festlegt. Das ist notwendig, da Vorlieben und einschränkende Regeln oft kollidieren.

Noch nicht ausgereift genug

Golem Akademie
  1. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    13.–16. Dezember 2021, virtuell
  2. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    14.–15. Oktober 2021, Virtuell
Weitere IT-Trainings

Ausgegebene Empfehlungen auf Basis ethischer Regeln funktionieren bei IBMs Projekt momentan nur auf Ja/Nein-Basis. Außerdem benötigt das KI-System noch zwei menschliche Parteien: Nutzer und Regelsetzer. Viele Inhalte im Netz werden jedoch oft persönlich von einer Person ausgewählt. Diese müssten sich entsprechend ihre eigenen Regeln setzen. Das könnte beispielsweise so aussehen, dass Menschen sich selbst Zeiten am Smartphone setzen oder angeben, wie bewusst sie sich ernähren wollen.

Potenzielle Anwendungsfälle gibt es viele, allerdings ist das System bisher noch nicht so allgemein verwendbar. Es muss also vorerst auf dem altmodischen Weg gedacht werden: mit Menschenverstand.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Giga Factory Berlin
Warum Tesla auf über eine Milliarde Euro verzichten musste

Tesla kann die Milliarde Euro Förderung für die Akkufabrik Grünheide nicht beantragen - weil es sonst zu Verzögerungen beim Einsatz neuer Technik käme.

Giga Factory Berlin: Warum Tesla auf über eine Milliarde Euro verzichten musste
Artikel
  1. Nachhaltigkeit: Kawasaki plant E-Motorräder und Wasserstoff-Verbrenner
    Nachhaltigkeit
    Kawasaki plant E-Motorräder und Wasserstoff-Verbrenner

    Kawasaki will elektrische Antriebe für seine Fahrzeuge entwickeln, 2022 sollen drei Elektromotorräder erscheinen.

  2. Doppelbildschirm: Kickstarterprojekt Slide brauchte 6 Jahre bis zum Erfolg
    Doppelbildschirm
    Kickstarterprojekt Slide brauchte 6 Jahre bis zum Erfolg

    Das Kickstarter-Projekt Slidenjoy kann nach 6 Jahren seinen Doppelbildschirm Slide für Notebooks ausliefern.

  3. Elektroauto: Tesla stellt Model Y in China auf AMD-Ryzen um
    Elektroauto
    Tesla stellt Model Y in China auf AMD-Ryzen um

    Tesla hat in China damit begonnen, den Ryzen von AMD in das Model Y zu verbauen. Käufer berichten von einem viel flüssigerem Scrolling.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Black Friday Wochenende • WD Blue SN550 2 TB ab 149€ • LG UltraGear 34GP950G-B 999€ • SanDisk Ultra 3D 500 GB M.2 44€ • Boxsets (u. a. Game of Thrones Blu-ray 79,97€) • Samsung Galaxy S21 128GB 777€ • Premium-Laptops • Cooler Master V850 Platinum 189,90€ • Astro Gaming Headsets [Werbung]
    •  /