Abo
  • Services:

Machine Learning: Tumblr markiert Tiefkühlhühnchen und Joe Biden als anstößig

Der von Tumblr eingesetzte Bilderkennungsalgorithmus ist sehr ungenau: Statt Nacktheit markiert er Zeichnungen von Einhörnern und den US-Politiker Joe Biden. Das Unternehmen hat knapp zwei Wochen, bis die neue Nutzungsbedingung in Kraft tritt und die Software endgültig über Inhalte entscheidet.

Artikel veröffentlicht am ,
Joe Biden ist einfach zu anstößig, denkt zumindest Tumblrs Algorithmus.
Joe Biden ist einfach zu anstößig, denkt zumindest Tumblrs Algorithmus. (Bild: Twitter/@Offborrowedlight)

Seit kurzer Zeit nutzt die Microblogging-Seite Tumblr Machine Learning, um für das Portal unangebrachte Inhalte wie Nacktheit und Pornografie in Bildern zu erkennen und zu filtern. Die Software ist allerdings sehr ungenau, berichtet das IT-Magazin Motherboard. Sie erkennt gezeichnete Einhörner, tiefgekühlte Hühnchen oder Blaupausen für eine Schuhputzmaschine als pornografische oder erotische Inhalte. Sogar der US-Politiker Joe Biden scheint für den Algorithmus zu anzüglich zu sein. Unter dem Hashtag #Toosexyfortumblr auf Twitter berichten Tumblr-Nutzer von ihren markierten Bildern.

Stellenmarkt
  1. Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO, Stuttgart, Esslingen
  2. Giesecke+Devrient Mobile Security GmbH, München

Motherboard hat das Unternehmen bezüglich des merkwürdigen Filters befragt, allerdings nur einen Verweis auf einen Tumblr-Support-Beitrag und eine Ankündigung von CEO Jeff D'Onofrio erhalten. In diesem sieht er ein, dass der Algorithmus nicht perfekt ist. "Solche Inhalte im Gegensatz zu einer politischen Demonstration mit Nacktheit oder der David-Statue herauszufiltern, ist im Großen nicht einfach", schreibt D'Onforio. Allerdings sieht es so aus, als könne der eingesetzte Algorithmus nicht einmal echte Menschen von rohem Essen unterscheiden.

Die Bilderkennung arbeitet zusammen mit menschlichen Mitarbeitern, die Inhalte manuell analysieren und herausfiltern. Das erinnert ein wenig an die Methoden, die die Videoplattform Youtube zum Markieren ihrer Inhalte nutzt. Allerdings scheint dieser akkurater und ausgereifter zu sein.

Fleischfarbener Hintergrund reicht wohl aus

Wie wenig ausgereift der Algorithmus bisher ist, beweisen einige der unter dem Hashtag #Toosexyfortumblr geteilten und markierten Bilder. Darunter ist etwa ein Anhänger in Herzform, der auf klarem Untergrund auf der einen und als Schema auf der anderen Seite abgebildet ist. Solch eindeutige Formen sind normalerweise für Machine-Learning-Systeme sehr leicht zu erkennen. Eine Nutzerin will erkannt haben, dass alles, was eine fleischfarbene Textur zeigt, als anstößig markiert wird. Ein so allgemeiner Parameter könnte ein Grund für die Ungenauigkeit sein.

Die mit dem Algorithmus einhergehenden angepassten Nutzungsbedingungen der Plattform gehen ab dem 17. Dezember 2018 online. Bis dahin hat Tumblr also wohl noch Zeit, um die Software auszubessern. Sie soll den vom Nutzer selbst eingestellten Safe-Mode-Filter ersetzen. Gesperrte Inhalte definiert Tumblr als: "primär Fotos, Videos und GIFs, die echte menschliche Genitalien oder Nippel der weiblichen Brust und sämtliche Inhalte zeigen - einschließlich Fotos, Videos, GIFs und Illustrationen - die Sex darstellen".



Anzeige
Blu-ray-Angebote
  1. (u. a. 3 Blu-rays für 15€, 2 Neuheiten für 15€)
  2. (u. a. Logan, John Wick, Alien Covenant, Planet der Affen Survival)

wupme 05. Dez 2018 / Themenstart

Also ich weiß nicht wie wenig da euer Horizont überblickt was für Seiten es da gibt, aber...

Spiritogre 05. Dez 2018 / Themenstart

Ein Blick auf Twitter reicht aktuell, da gibt es tonnenweise lustiger Beispiele, was die...

Sofafurzer 05. Dez 2018 / Themenstart

Möglicherweise möchte Tumb Larr mit dem Filtern auch eine bestimmte Reaktion provozieren...

Der Held vom... 05. Dez 2018 / Themenstart

Da das sogenannte "Herz" ursprünglich die stilisierte Darstellung des entblößten...

Kommentieren


Folgen Sie uns
       


Red Dead Redemption 2 auf der Xbox One X - Golem.de live

Wir zeigen auf zahlreich geäußerten Wunsch Red Dead Redemption 2 im Livestream auf der Xbox One X. In der Aufzeichung kommen die Details des zum Teil in 4K hereingezoomten Bildausschnittes gut zur Geltung.

Red Dead Redemption 2 auf der Xbox One X - Golem.de live Video aufrufen
Yuneec H520: 3D-Modell aus der Drohne
Yuneec H520
3D-Modell aus der Drohne

Multikopter werden zunehmend auch kommerziell verwendet. Vor allem machen die Drohnen Luftbilder und Inspektionsflüge und vermessen. Wir haben in der Praxis getestet, wie gut das mit dem Yuneec H520 funktioniert.
Von Dirk Koller


    Google Nachtsicht im Test: Starke Nachtaufnahmen mit dem Pixel
    Google Nachtsicht im Test
    Starke Nachtaufnahmen mit dem Pixel

    Gut einen Monat nach der Vorstellung der neuen Pixel-Smartphones hat Google die Kamerafunktion Nachtsicht vorgestellt. Mit dieser lassen sich tolle Nachtaufnahmen machen, die mit denen von Huaweis Nachtmodus vergleichbar sind - und dessen Qualität bei Selbstporträts deutlich übersteigt.
    Ein Test von Tobias Költzsch

    1. Pixel 3 Google patcht Probleme mit Speichermanagement
    2. Smartphone Google soll Pixel 3 Lite mit Kopfhörerbuchse planen
    3. Google Dem Pixel 3 XL wächst eine zweite Notch

    IT: Frauen, die programmieren und Bier trinken
    IT
    Frauen, die programmieren und Bier trinken

    Fest angestellte Informatiker sind oft froh, nach Feierabend nicht schon wieder in ein Get-together zu müssen. Doch was ist, wenn man kein Team hat und sich selbst Programmieren beibringt? Women Who Code veranstaltet Programmierabende für Frauen, denen es so geht. Golem.de war dort.
    Von Maja Hoock

    1. Software-Entwickler CDU will Online-Weiterbildung à la Netflix
    2. Job-Porträt Cyber-Detektiv "Ich musste als Ermittler über 1.000 Onanie-Videos schauen"
    3. Bundesagentur für Arbeit Ausbildungsplätze in der Informatik sind knapp

      •  /