Deep-Learning: Medienanstalten suchen mit KI nach Pornos und Gewalt

Die Medienregulierer in Deutschland untersuchen automatisiert 10.000 Webseiten und Social-Media-Plattformen nach eventuell illegalen Inhalten.

Artikel veröffentlicht am , /dpa
Die Landesanstalten für Medien gehen unter anderem gegen Pornografie vor.
Die Landesanstalten für Medien gehen unter anderem gegen Pornografie vor. (Bild: Romain Longieras / Hans Lucas via Reuters Connect)

Die Medienanstalten in Deutschland setzen bei ihrer Arbeit ab sofort auf künstliche Intelligenz. Eine für Nordrhein-Westfalen entwickelte Software wird ab sofort bundesweit eingesetzt, wie die Landesanstalt für Medien NRW am Donnerstag in Düsseldorf mitteilte. "Durch automatisiertes Monitoring von Social-Media-Plattformen und Webseiten werden potenzielle Rechtsverstöße identifiziert und zur Prüfung durch die Mitarbeitenden der Aufsicht vorbereitet", teilte die NRW-Medienaufsicht mit.

Stellenmarkt
  1. Prozessmanager (m/w/d) LEAN Production
    Goldbeck GmbH, Bielefeld
  2. IT-Berater Konzeption Polizeianwendungen (w/m/d)
    Dataport, verschiedene Standorte
Detailsuche

Mit Hilfe der Software werden täglich mehr als 10.000 Seiten automatisch auf Rechtsverstöße geprüft. Die Zahl der Strafanzeigen hätten sich demnach im Vergleich zu vergleichbaren Bearbeitungszeiträumen verdoppelt. "Zu den konkreten Verstoßkategorien zählen beispielsweise Gewaltdarstellungen, Volksverhetzung, die Verwendung verfassungsfeindlicher Kennzeichen oder frei zugängliche Pornografie", heißt in der Ankündigung.

Das KI-Modell, zu dessen Funktionsweise es so gut wie keine technischen Details gibt, basiert offenbar auf einem Machine-Learning-Ansatz. Dazu heißt es: "Die KI lernt durch Bild- und Textbespiele, die wir aktiv einspeisen und die in der Vergangenheit als Verstoß bewertet wurden sowie durch unsere tägliche Rückmeldung, ob sich ein gefundener Verdacht bestätigt hat oder nicht." Das System erreiche dabei eine "Trefferquote von über 90 Prozent im Bereich der Pornografie und von knapp 40 Prozent im Bereich der Verstöße gegen die Menschenwürde und des politischen Extremismus".

KI soll Mitarbeiter schonen

"Der Einsatz künstlicher Intelligenz ermöglicht eine Medienaufsicht, die menschliche Expertise und höchste technologische Standards vereint. Um beides zu erreichen: den Schutz vor Rechtsverstößen und damit die Sicherung der Meinungsfreiheit", sagte Tobias Schmid, Direktor der Landesanstalt für Medien NRW, über die deutschlandweite Anwendung des Tools.

Golem Karrierewelt
  1. LDAP Identitätsmanagement Fundamentals: virtueller Drei-Tage-Workshop
    18.-20.10.2022, Virtuell
  2. IT-Grundschutz-Praktiker mit Zertifikat: Drei-Tage-Workshop
    21.-23.11.2022, Virtuell
Weitere IT-Trainings

Nach Angaben der Medienanstalt NRW wird durch die Software auch die psychische Gesundheit der Mitarbeiter geschont. Das Risiko unvermittelt auf belastende Inhalte zu stoßen, werde minimiert. Potenzielle Verstöße werden automatisch Kategorien zugeordnet und zunächst unscharf dargestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Cryptomator
Endlich ist unsere Cloud Ende-zu-Ende-verschlüsselt

Werkzeugkasten Noch liegen die Daten bei Dropbox, Onedrive oder in der Nextcloud unverschlüsselt - doch mit dem Open-Source-Tool Cryptomator lässt sich das leicht ändern.
Von Moritz Tremmel

Cryptomator: Endlich ist unsere Cloud Ende-zu-Ende-verschlüsselt
Artikel
  1. Jetracer: Liegestuhl fliegt mit 250 km/h
    Jetracer
    Liegestuhl fliegt mit 250 km/h

    Der Jetracer ist eine Art fliegender Stuhl mit mehreren Turbinen, die für den Vortrieb sorgen. Der Einsitzer soll 250 km/h erreichen.

  2. Hase Bikes Lepus E: E-Liegerad mit Anfahrhilfe ohne zu Treten
    Hase Bikes Lepus E
    E-Liegerad mit Anfahrhilfe ohne zu Treten

    Das Elektro-Liegerad Lepus E von Hase Bikes verfügt über eine am Lenker einschaltbare Anfahrhilfe. Bis 6 km/h muss nicht getreten werden.

  3. Kabelnetz: Vodafone setzt neuartige Antennendosen ein
    Kabelnetz
    Vodafone setzt neuartige Antennendosen ein

    Ohne Radioport kommt die neue Antennendose und ist damit schon für DOCSIS 4.0 vorbereitet. Doch sie soll bereits jetzt Vorteile für Vodafone-Kunden bringen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Neuer Saturn-Flyer • MindStar (MSI RTX 3070 599€) • Günstig wie nie: Zotac RTX 3080 12GB 829€, Mac mini 16GB 1.047,26€, Samsung SSD 1TB/2TB (PS5) 111€/199,99€ • PS5 bestellbar • Games für PS5/PS4 bis 84% günstiger • Bester 2.000€-Gaming-PC[Werbung]
    •  /