Youtube: Mit Machine Learning und NGOs gegen Terrorinhalte vorgehen

Um terroristische und andere rechtswidrige Inhalte zu erkennen, setzt Youtube neuerdings maschinelles Lernen ein. Erste Erfolge sprechen für das System. Trotzdem sind Menschen für die Filterung solcher Videos noch unverzichtbar.

Artikel veröffentlicht am ,
Youtube will mit Machine Learning gegen terroristische Inhalte vorgehen.
Youtube will mit Machine Learning gegen terroristische Inhalte vorgehen. (Bild: Youtube/Valve/Montage: Golem.de)

Googles Videoplattform Youtube will stärker gegen terroristische Inhalte vorgehen, die dort geteilt werden. In einem Blogpost gibt das Unternehmen ein erstes Update bekannt. Zur besseren Entdeckung solcher Videos arbeitet Youtube an einem Machine-Learning-Algorithmus, der die Menschen bei der Suche unterstützt. Das neue System sei wesentlich schneller und effizienter als eine Analyse ausschließlich durch Mitarbeiter.

Stellenmarkt
  1. Softwareentwickler C# / .NET (m/w/d)
    IS Software GmbH, Regensburg
  2. Sachbearbeiterinnen / Sachbearbeiter (w/m/d) - Cyber-Sicherheit in Smart Home und Smart Cities
    Bundesamt für Sicherheit in der Informationstechnik, Bonn
Detailsuche

Google verzeichnet bereits erste Erfolge: 75 Prozent aller terroristischen Videos seien entfernt worden, bevor sie überhaupt eine einzige Zuschauerreaktion oder gar einen View bekommen konnten. Das System sei außerdem genauer beim Markieren von fragwürdigen Inhalten als ein menschliches Pendant. Trotzdem sei es bei Weitem noch nicht pefekt, fügt Youtube hinzu.

Riesige Datenmengen machen maschinelles Lernen unverzichtbar

Bei den großen Datenmengen, um die Youtubes Videodatenbank kontinuierlich erweitert wird - das Unternehmen nennt 400 Stunden an Inhalt pro Minute - sei maschinelles Lernen unverzichtbar, heißt es. Im vergangenen Monat seien doppelt so viele Videos entfernt worden als ohne diese Technik.

Neben maschinellem Lernen und automatisierten Analysen will Youtube weitere Experten engagieren, die sich mit dem Filtern von Videos beschäftigen: Mehr als 15 Nichtregierungsorganisationen (NGOs) werden beauftragt, bei der Suche nach unerwünschten Inhalten zu helfen. Das sei auch wichtig, um dem automatisierten Algorithmus eine bessere Grundlage zu geben, auf der er Analysen anstellen kann.

Golem Akademie
  1. CEH Certified Ethical Hacker v11: virtueller Fünf-Tage-Workshop
    10.–14. Januar 2022, Virtuell
  2. Cloud Computing mit Amazon Web Services (AWS): virtueller Drei-Tage-Workshop
    14.–16. Februar 2022, virtuell
Weitere IT-Trainings

Außerdem ist eine Jigsaw-Funktion in Arbeit, die Suchanfragen mit sensiblen Suchbegriffen filtert und den Nutzer auf speziell erstellte Videos leitet, die zu diesen Themen aufklären sollen. Zusätzlich will das Youtube-Team die Standards und Richtlinien für Videos verschärfen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


drknow 09. Aug 2017

Golem verschweigt das Wichtigste: "Over the past weeks, we have begun working with more...

William 09. Aug 2017

Falls du tatsächlich lediglich den Inhalt der abonnierten Kanäle sehen möchtest, öffne...

jsm 08. Aug 2017

Suchen die jetzt nach unerwünschten Inhalten oder nach illegalen Inhalten oder nach...

Yian 08. Aug 2017

Auf einem Kanal spricht ein Typ von Satire und alles nur Spaß, um anschließend ausgiebig...



Aktuell auf der Startseite von Golem.de
Resident Evil (1996)
Grauenhaft gut

Resident Evil zeigte vor 25 Jahren, wie Horror im Videospiel auszusehen hat. Wir schauen uns den Klassiker im Golem retro_ an.

Resident Evil (1996): Grauenhaft gut
Artikel
  1. Streaming: Chromecast erhält spezielle Youtube-Fernbedienung
    Streaming
    Chromecast erhält spezielle Youtube-Fernbedienung

    Die Steuerung von Youtube auf einem Chromecast soll mit einer neuen Funktion deutlich komfortabler werden.

  2. Studie: Kinder erhalten Smartphone meist zwischen 6 und 11 Jahren
    Studie
    Kinder erhalten Smartphone meist zwischen 6 und 11 Jahren

    Nur eine sehr geringe Minderheit der Eltern will ihrem Kind erst mit 15 Jahren ein Smartphone zur Verfügung stellen.

  3. Google: Kopfhörer verlieren Google-Assistant-Support auf iPhones
    Google
    Kopfhörer verlieren Google-Assistant-Support auf iPhones

    Wer Google Assistant am Kopfhörer benutzen will, ist künftig auf ein Android-Gerät angewiesen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Advent: Samsung Portable SSD T5 1 TB 84€ • ViewSonic VX2718-2KPC-MHD (WQHD, 165 Hz) 229€ • EPOS Sennheiser GSP 670 199€ • EK Water Blocks Elite Aurum 360 D-RGB All in One 205,89€ • KFA2 Geforce RTX 3070 OC 8 GB 1.019€ • Alternate (u. a. AKRacing Core SX 269,98€) [Werbung]
    •  /