Deep-Learning: Medienanstalten suchen mit KI nach Pornos und Gewalt

Die Medienregulierer in Deutschland untersuchen automatisiert 10.000 Webseiten und Social-Media-Plattformen nach eventuell illegalen Inhalten.

Artikel veröffentlicht am , /dpa
Die Landesanstalten für Medien gehen unter anderem gegen Pornografie vor.
Die Landesanstalten für Medien gehen unter anderem gegen Pornografie vor. (Bild: Romain Longieras / Hans Lucas via Reuters Connect)

Die Medienanstalten in Deutschland setzen bei ihrer Arbeit ab sofort auf künstliche Intelligenz. Eine für Nordrhein-Westfalen entwickelte Software wird ab sofort bundesweit eingesetzt, wie die Landesanstalt für Medien NRW am Donnerstag in Düsseldorf mitteilte. "Durch automatisiertes Monitoring von Social-Media-Plattformen und Webseiten werden potenzielle Rechtsverstöße identifiziert und zur Prüfung durch die Mitarbeitenden der Aufsicht vorbereitet", teilte die NRW-Medienaufsicht mit.

Stellenmarkt
  1. Spezialist (w/m/d) Conversational AI
    EnBW Energie Baden-Württemberg AG, Karlsruhe
  2. Mitarbeiter (m/w/d) Medizinische Dokumentation / Medizinisches Informationsmanagement / Datenmanagement
    Bayerisches Landesamt für Gesundheit und Lebensmittelsicherheit, Nürnberg
Detailsuche

Mit Hilfe der Software werden täglich mehr als 10.000 Seiten automatisch auf Rechtsverstöße geprüft. Die Zahl der Strafanzeigen hätten sich demnach im Vergleich zu vergleichbaren Bearbeitungszeiträumen verdoppelt. "Zu den konkreten Verstoßkategorien zählen beispielsweise Gewaltdarstellungen, Volksverhetzung, die Verwendung verfassungsfeindlicher Kennzeichen oder frei zugängliche Pornografie", heißt in der Ankündigung.

Das KI-Modell, zu dessen Funktionsweise es so gut wie keine technischen Details gibt, basiert offenbar auf einem Machine-Learning-Ansatz. Dazu heißt es: "Die KI lernt durch Bild- und Textbespiele, die wir aktiv einspeisen und die in der Vergangenheit als Verstoß bewertet wurden sowie durch unsere tägliche Rückmeldung, ob sich ein gefundener Verdacht bestätigt hat oder nicht." Das System erreiche dabei eine "Trefferquote von über 90 Prozent im Bereich der Pornografie und von knapp 40 Prozent im Bereich der Verstöße gegen die Menschenwürde und des politischen Extremismus".

KI soll Mitarbeiter schonen

"Der Einsatz künstlicher Intelligenz ermöglicht eine Medienaufsicht, die menschliche Expertise und höchste technologische Standards vereint. Um beides zu erreichen: den Schutz vor Rechtsverstößen und damit die Sicherung der Meinungsfreiheit", sagte Tobias Schmid, Direktor der Landesanstalt für Medien NRW, über die deutschlandweite Anwendung des Tools.

Golem Karrierewelt
  1. Masterclass Data Science mit Pandas & Python: virtueller Zwei-Tage-Workshop
    29./30.09.2022, Virtuell
  2. Container Technologie: Docker und Kubernetes - Theorie und Praxis: virtueller Drei-Tage-Workshop
    04.-07.07.2022, virtuell
Weitere IT-Trainings

Nach Angaben der Medienanstalt NRW wird durch die Software auch die psychische Gesundheit der Mitarbeiter geschont. Das Risiko unvermittelt auf belastende Inhalte zu stoßen, werde minimiert. Potenzielle Verstöße werden automatisch Kategorien zugeordnet und zunächst unscharf dargestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


nicoledos 08. Apr 2022 / Themenstart

Pornos sind wohl das kleinste übel. Heute liefern die sozialen Medien Livebilder vom...

leMatin 07. Apr 2022 / Themenstart

Man darf sich hier nicht so extrem an den einzelnen Begriffen festmachen sondern muss...

Kommentieren



Aktuell auf der Startseite von Golem.de
Prehistoric Planet
Danke, Apple, für so grandiose Dinosaurier!

Musik von Hans Zimmer, dazu David Attenborough als Sprecher: Apples Prehistoric Planet hat einen Kindheitstraum zum Leben erweckt.
Ein IMHO von Marc Sauter

Prehistoric Planet: Danke, Apple, für so grandiose Dinosaurier!
Artikel
  1. Star Wars: Cal Kestis kämpft in Jedi Survivor weiter
    Star Wars
    Cal Kestis kämpft in Jedi Survivor weiter

    EA hat offiziell den Nachfolger zu Star Wars Jedi Fallen Order angekündigt. Hauptfigur ist erneut Cal Kestis mit seinem Roboterkumpel BD-1.

  2. Fahrgastverband Pro Bahn: Wo das 9-Euro-Ticket sicher gilt
    Fahrgastverband Pro Bahn
    Wo das 9-Euro-Ticket sicher gilt

    Die Farbe der Züge ist entscheidend, was bei der Reiseplanung in der Deutsche-Bahn-App wenig nützt. Dafür laufen Fahrscheinkontrollen ins Leere.

  3. Retro Gaming: Wie man einen Emulator programmiert
    Retro Gaming
    Wie man einen Emulator programmiert

    Warum nicht mal selbst einen Emulator programmieren? Das ist lehrreich und macht Spaß - wenn er funktioniert. Wie es geht, zeigen wir am Gameboy.
    Von Johannes Hiltscher

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 evtl. bestellbar • Prime Video: Filme leihen für 0,99€ • Gigabyte RTX 3080 12GB günstig wie nie: 1.024€ • MSI Gaming-Monitor 32" 4K günstig wie nie: 999€ • Mindstar (u. a. AMD Ryzen 5 5600 179€, Palit RTX 3070 GamingPro 669€) • Days of Play (u. a. PS5-Controller 49,99€) [Werbung]
    •  /