Youtube: Mit Machine Learning und NGOs gegen Terrorinhalte vorgehen

Um terroristische und andere rechtswidrige Inhalte zu erkennen, setzt Youtube neuerdings maschinelles Lernen ein. Erste Erfolge sprechen für das System. Trotzdem sind Menschen für die Filterung solcher Videos noch unverzichtbar.

Artikel veröffentlicht am ,
Youtube will mit Machine Learning gegen terroristische Inhalte vorgehen.
Youtube will mit Machine Learning gegen terroristische Inhalte vorgehen. (Bild: Youtube/Valve/Montage: Golem.de)

Googles Videoplattform Youtube will stärker gegen terroristische Inhalte vorgehen, die dort geteilt werden. In einem Blogpost gibt das Unternehmen ein erstes Update bekannt. Zur besseren Entdeckung solcher Videos arbeitet Youtube an einem Machine-Learning-Algorithmus, der die Menschen bei der Suche unterstützt. Das neue System sei wesentlich schneller und effizienter als eine Analyse ausschließlich durch Mitarbeiter.

Stellenmarkt
  1. Anwendungsentwickler (m/w/d) SAP S/4
    Follmann Chemie GmbH, Minden
  2. Mitarbeiter (m/w/d) Informations- und IT - Sicherheit
    Ratiodata SE, Frankfurt am Main, Münster
Detailsuche

Google verzeichnet bereits erste Erfolge: 75 Prozent aller terroristischen Videos seien entfernt worden, bevor sie überhaupt eine einzige Zuschauerreaktion oder gar einen View bekommen konnten. Das System sei außerdem genauer beim Markieren von fragwürdigen Inhalten als ein menschliches Pendant. Trotzdem sei es bei Weitem noch nicht pefekt, fügt Youtube hinzu.

Riesige Datenmengen machen maschinelles Lernen unverzichtbar

Bei den großen Datenmengen, um die Youtubes Videodatenbank kontinuierlich erweitert wird - das Unternehmen nennt 400 Stunden an Inhalt pro Minute - sei maschinelles Lernen unverzichtbar, heißt es. Im vergangenen Monat seien doppelt so viele Videos entfernt worden als ohne diese Technik.

Neben maschinellem Lernen und automatisierten Analysen will Youtube weitere Experten engagieren, die sich mit dem Filtern von Videos beschäftigen: Mehr als 15 Nichtregierungsorganisationen (NGOs) werden beauftragt, bei der Suche nach unerwünschten Inhalten zu helfen. Das sei auch wichtig, um dem automatisierten Algorithmus eine bessere Grundlage zu geben, auf der er Analysen anstellen kann.

Golem Karrierewelt
  1. AZ-500 Microsoft Azure Security Technologies (AZ-500T00): virtueller Vier-Tage-Workshop
    30.01.-02.02.2023, virtuell
  2. Cloud Competence Center: Strategien, Roadmap, Governance: virtueller Ein-Tages-Workshop
    28.02.2023, Virtuell
Weitere IT-Trainings

Außerdem ist eine Jigsaw-Funktion in Arbeit, die Suchanfragen mit sensiblen Suchbegriffen filtert und den Nutzer auf speziell erstellte Videos leitet, die zu diesen Themen aufklären sollen. Zusätzlich will das Youtube-Team die Standards und Richtlinien für Videos verschärfen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


drknow 09. Aug 2017

Golem verschweigt das Wichtigste: "Over the past weeks, we have begun working with more...

William 09. Aug 2017

Falls du tatsächlich lediglich den Inhalt der abonnierten Kanäle sehen möchtest, öffne...

jsm 08. Aug 2017

Suchen die jetzt nach unerwünschten Inhalten oder nach illegalen Inhalten oder nach...

Yian 08. Aug 2017

Auf einem Kanal spricht ein Typ von Satire und alles nur Spaß, um anschließend ausgiebig...



Aktuell auf der Startseite von Golem.de
Katastrophenschutz  
Endlich klingelt es am Warntag

Zwei Jahre nach dem ersten bundesweiten Warntag klingelt es dank Cell Broadcast deutschlandweit. An anderen Stellen fehlen weiterhin Warnmittel.

Katastrophenschutz: Endlich klingelt es am Warntag
Artikel
  1. Deepmind: Ist KI nun schlauer als bekannte Mathematiker?
    Deepmind
    Ist KI nun schlauer als bekannte Mathematiker?

    Künstliche Intelligenz hat einen neuen Rechenweg für Matrizen gefunden. Wir erklären im Detail, was genau Deepmind geschafft hat und warum weitere Durchbrüche zu erwarten sind.
    Von Matthias Müller-Brockhausen

  2. Google: Makromodus des Pixel 7 Pro lässt sich einfacher einstellen
    Google
    Makromodus des Pixel 7 Pro lässt sich einfacher einstellen

    Nach einem Kamera-Update lässt sich der Makromodus des Pixel 7 Pro besser manuell steuern. Google hat gleichzeitig die Double-Tap-Geste abgeschafft.

  3. Tesla-Fabrik: In Grünheide soll totales Chaos herrschen
    Tesla-Fabrik
    In Grünheide soll "totales Chaos" herrschen

    Die Tesla-Fabrik in Grünheide hinkt ihren Produktionszielen noch weit hinterher. Es gibt zu wenig Personal oder die Mitarbeiter kündigen wieder.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bei Amazon • Samsung SSDs bis -28% • Rabatt-Code für ebay • Logitech Mäuse, Tastaturen & Headsets -53% • HyperX PC-Peripherie -56% • Google Pixel 6 & 7 -49% • PS5-Spiele günstiger • Tiefstpreise: Asus RTX 4080 1.640,90€, Roccat Kone Pro 39,99€, Asus RTX 6950 XT 939€ [Werbung]
    •  /