Machine Learning: Tumblr markiert Tiefkühlhühnchen und Joe Biden als anstößig

Der von Tumblr eingesetzte Bilderkennungsalgorithmus ist sehr ungenau: Statt Nacktheit markiert er Zeichnungen von Einhörnern und den US-Politiker Joe Biden. Das Unternehmen hat knapp zwei Wochen, bis die neue Nutzungsbedingung in Kraft tritt und die Software endgültig über Inhalte entscheidet.

Artikel veröffentlicht am ,
Joe Biden ist einfach zu anstößig, denkt zumindest Tumblrs Algorithmus.
Joe Biden ist einfach zu anstößig, denkt zumindest Tumblrs Algorithmus. (Bild: Twitter/@Offborrowedlight)

Seit kurzer Zeit nutzt die Microblogging-Seite Tumblr Machine Learning, um für das Portal unangebrachte Inhalte wie Nacktheit und Pornografie in Bildern zu erkennen und zu filtern. Die Software ist allerdings sehr ungenau, berichtet das IT-Magazin Motherboard. Sie erkennt gezeichnete Einhörner, tiefgekühlte Hühnchen oder Blaupausen für eine Schuhputzmaschine als pornografische oder erotische Inhalte. Sogar der US-Politiker Joe Biden scheint für den Algorithmus zu anzüglich zu sein. Unter dem Hashtag #Toosexyfortumblr auf Twitter berichten Tumblr-Nutzer von ihren markierten Bildern.

Stellenmarkt
  1. IT Administrator (all genders)
    Joyson Safety Systems Aschaffenburg GmbH, Berlin
  2. IT Coordinator - 1st und 2nd Level Support (m/w/d)
    Engelbert Strauss GmbH & Co. KG, Biebergemünd
Detailsuche

Motherboard hat das Unternehmen bezüglich des merkwürdigen Filters befragt, allerdings nur einen Verweis auf einen Tumblr-Support-Beitrag und eine Ankündigung von CEO Jeff D'Onofrio erhalten. In diesem sieht er ein, dass der Algorithmus nicht perfekt ist. "Solche Inhalte im Gegensatz zu einer politischen Demonstration mit Nacktheit oder der David-Statue herauszufiltern, ist im Großen nicht einfach", schreibt D'Onforio. Allerdings sieht es so aus, als könne der eingesetzte Algorithmus nicht einmal echte Menschen von rohem Essen unterscheiden.

Die Bilderkennung arbeitet zusammen mit menschlichen Mitarbeitern, die Inhalte manuell analysieren und herausfiltern. Das erinnert ein wenig an die Methoden, die die Videoplattform Youtube zum Markieren ihrer Inhalte nutzt. Allerdings scheint dieser akkurater und ausgereifter zu sein.

Fleischfarbener Hintergrund reicht wohl aus

Wie wenig ausgereift der Algorithmus bisher ist, beweisen einige der unter dem Hashtag #Toosexyfortumblr geteilten und markierten Bilder. Darunter ist etwa ein Anhänger in Herzform, der auf klarem Untergrund auf der einen und als Schema auf der anderen Seite abgebildet ist. Solch eindeutige Formen sind normalerweise für Machine-Learning-Systeme sehr leicht zu erkennen. Eine Nutzerin will erkannt haben, dass alles, was eine fleischfarbene Textur zeigt, als anstößig markiert wird. Ein so allgemeiner Parameter könnte ein Grund für die Ungenauigkeit sein.

Golem Akademie
  1. Scrum Product Owner: Vorbereitung auf den PSPO I (Scrum.org): virtueller Zwei-Tage-Workshop
    3.–4. März 2022, virtuell
  2. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    03.–04. Februar 2022, Virtuell
Weitere IT-Trainings

Die mit dem Algorithmus einhergehenden angepassten Nutzungsbedingungen der Plattform gehen ab dem 17. Dezember 2018 online. Bis dahin hat Tumblr also wohl noch Zeit, um die Software auszubessern. Sie soll den vom Nutzer selbst eingestellten Safe-Mode-Filter ersetzen. Gesperrte Inhalte definiert Tumblr als: "primär Fotos, Videos und GIFs, die echte menschliche Genitalien oder Nippel der weiblichen Brust und sämtliche Inhalte zeigen - einschließlich Fotos, Videos, GIFs und Illustrationen - die Sex darstellen".

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


wupme 05. Dez 2018

Also ich weiß nicht wie wenig da euer Horizont überblickt was für Seiten es da gibt, aber...

Spiritogre 05. Dez 2018

Ein Blick auf Twitter reicht aktuell, da gibt es tonnenweise lustiger Beispiele, was die...

Sofafurzer 05. Dez 2018

Möglicherweise möchte Tumb Larr mit dem Filtern auch eine bestimmte Reaktion provozieren...

Der Held vom... 05. Dez 2018

Da das sogenannte "Herz" ursprünglich die stilisierte Darstellung des entblößten...



Aktuell auf der Startseite von Golem.de
Raumfahrt
SpaceX-Rakete stürzt voraussichtlich im März auf den Mond

Ob sich Elon Musk so die erste Ankunft einer SpaceX-Rakete auf dem Mond vorgestellt hat?

Raumfahrt: SpaceX-Rakete stürzt voraussichtlich im März auf den Mond
Artikel
  1. G413 SE, G413 TKL SE: Logitech bringt zwei mechanische Tastaturen für weniger Geld
    G413 SE, G413 TKL SE
    Logitech bringt zwei mechanische Tastaturen für weniger Geld

    Normalerweise sind mechanische Tastaturen von Logitech sehr teuer - nicht so die G413 SE und TKL SE. Die verzichten dafür auf RGB.

  2. Deutschland: E-Commerce wird immer mehr zum Normalfall
    Deutschland
    E-Commerce wird immer mehr zum Normalfall

    E-Commerce wird immer mehr als das Normale und Übliche empfunden, meint der Bundesverband E-Commerce und Versandhandel.

  3. Letzte Meile: Telekom will Preise für VDSL-Vermietung stark erhöhen
    Letzte Meile
    Telekom will Preise für VDSL-Vermietung stark erhöhen

    Die Telekom will von 1&1, Vodafone und Telefónica künftig erheblich mehr für die Anmietung der letzten Meile.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3090 24GB 2.349€ • RTX 3070 Ti 8GB 1.039€ • 1TB SSD PCIe 4.0 127,67€ • RX 6900XT 16 GB 1.495€ • Razer Gaming-Tastatur 155€ • LG OLED 65 Zoll 1.599€ • Razer Gaming-Maus 39,99€ • RX 6800XT 16GB 1.229€ • GOG New Year Sale: bis zu 90% Rabatt • Razer Gaming-Stuhl 179,99€ [Werbung]
    •  /