Abo
  • IT-Karriere:

Rassistischer Chat-Bot: Microsoft hat Twitter unterschätzt

Nutzer sollten mit der KI Tay chatten, Microsoft wollte aus den Konversationen lernen - und hat dabei nach eigenen Angaben unterschätzt, dass die Twitter-Gemeinde eine Schwachstelle des Programms ausnutzen könnte. Ob Tay wieder online gehen wird, ist noch unklar.

Artikel veröffentlicht am ,
Tay bleibt vorerst offline.
Tay bleibt vorerst offline. (Bild: Microsoft)

Microsoft hat sich zur Abschaltung seiner Chat-KI Tay geäußert. Tay ging am 23. März 2016 unter anderem auf Twitter online, nur um bereits am Folgetag wieder offline genommen zu werden. Grund waren eine Vielzahl von rassistischen, frauenfeindlichen und homophoben Tweets, die Tay auf Twitter gepostet hatte.

Schwachstelle führte zu beleidigenden Tweets

Stellenmarkt
  1. Fidor Solutions AG, München
  2. MBDA Deutschland, Schrobenhausen

Grund dafür war eine Schwachstelle in der Programmierung, die Microsoft zufolge gezielt von einer Gruppe von Nutzern auf Twitter ausgenutzt worden sei. Aufgrund dieser Attacke hatte Tay "unpassende und verwerfliche" Texte und Bilder gepostet. Wie genau die Schwachstelle ausgenutzt werden konnte, erklärt Microsoft nicht.

Am Tag der Abschaltung von Tay berichteten einige Medien, dass es offenbar möglich war, Tay gezielt Tweets wiederholen zu lassen. Dies dürfte die von Microsoft beschriebene Schwachstelle in der Programmierung sein. Unklar ist, wieso Tay daraufhin offenbar eigenständig beleidigende Tweets verfassen konnte.

Grund für Angreifbarkeit ist noch nicht bekannt

Microsoft übernimmt die volle Verantwortung, die Programmierschwäche im Vorfeld nicht erkannt zu haben. Offenbar hat das Unternehmen die Twitter-Gemeinde unterschätzt. Bei Microsofts erstem Chatbot - dem in China gestarteten Xiaolce - sind keine derartigen Probleme bekannt. Momentan versucht Microsoft noch herauszufinden, wie genau es zu der Angreifbarkeit von Tay kommen konnte.

Tay soll Microsoft zufolge solange offline bleiben, bis sich das Unternehmen bei einer erneuten Aktivierung sicher sein kann, dass es nicht erneut zu derartigen Probleme kommen wird. Wann dies sein wird, lässt Microsoft offen - von den Problemen mit Tay will der Hersteller aber für die Arbeit an künftigen AI-Projekten lernen.

Nachtrag vom 30. März 2016, 11:29 Uhr

Offenbar hatte Microsoft Tay in den Morgenstunden des 30. März 2016 wieder auf Twitter reaktiviert. Nachdem der Chat-Bot jedoch hauptsächlich die Nachricht "Du bist zu schnell, bitte ruh dich aus" tweetete, ist das Konto mittlerweile wieder gesperrt.



Anzeige
Top-Angebote
  1. 53,99€ (Release am 27. August)
  2. (aktuell u. a. Asus Vivobook 15 für 589,00€, Nero AG Platinum Recording Software für 59,90€)
  3. 10,99€ (ohne Prime oder unter 29€ + Versand)

Kleba 31. Mär 2016

Danke für den Tipp! Hab zwar etwas mehr als 1h gebraucht, aber hat sicht gelohnt...

Dwalinn 30. Mär 2016

Super die KI löscht die Menschen aus und kurze zeit später schlägt ein Meteorit auf die...

Hotohori 30. Mär 2016

Ist halt die Frage was MS da genau mit so einem Bot im Hintergrund testet, kann ja auch...

Hotohori 30. Mär 2016

Eben, wie viele Menschen haben zu Dingen eine Meinung, die sie noch nie selbst...

SvenMeyer 30. Mär 2016

Ich denke, weil es eben kein "normales Program" war, bei dem ja quasi alles explizit...


Folgen Sie uns
       


Asrock DeskMini A300 - Test

Der DeskMini A300 von Asrock ist ein Mini-PC mit weniger als zwei Litern Volumen. Der kleine Rechner basiert auf einer Platine mit Sockel AM4 und eignet sich daher für Raven-Ridge-Chips wie den Athlon 200GE oder den Ryzen 5 2400G.

Asrock DeskMini A300 - Test Video aufrufen
Kontist, N26, Holvi: Neue Banking-Apps machen gute Angebote für Freelancer
Kontist, N26, Holvi
Neue Banking-Apps machen gute Angebote für Freelancer

Ein mobiles und dazu noch kostenloses Geschäftskonto für Freiberufler versprechen Startups wie Kontist, N26 oder Holvi. Doch sind die Newcomer eine Alternative zu den Freelancer-Konten der großen Filialbanken? Ja, sind sie - mit einer kleinen Einschränkung.
Von Björn König


    Mordhau angespielt: Die mit dem Schwertknauf zuschlagen
    Mordhau angespielt
    Die mit dem Schwertknauf zuschlagen

    Ein herausfordernd-komplexes Kampfsystem, trotzdem schnelle Action mit Anleihen bei Chivalry und For Honor: Das vom Entwicklerstudio Triternion produzierte Mordhau schickt Spieler in mittelalterlich anmutende Multiplayergefechte mit klirrenden Schwertern und hohem Spaßfaktor.
    Von Peter Steinlechner

    1. Bus Simulator angespielt Zwischen Bodenschwelle und Haltestelle
    2. Bright Memory angespielt Brachialer PC-Shooter aus China

    Sicherheitslücken: Zombieload in Intel-Prozessoren
    Sicherheitslücken
    Zombieload in Intel-Prozessoren

    Forscher haben weitere Seitenkanalangriffe auf Intel-Prozessoren entdeckt, die sie Microarchitectural Data Sampling alias Zombieload nennen. Der Hersteller wusste davon und reagiert mit CPU-Revisionen. Apple rät dazu, Hyperthreading abzuschalten - was 40 Prozent Performance kosten kann.
    Ein Bericht von Marc Sauter und Sebastian Grüner

    1. Open-Source Technology Summit Intel will moderne Firmware und Rust-VMM für Server
    2. Ice Lake plus Xe-GPGPU Intel erläutert 10-nm- und 7-nm-Zukunft
    3. GPU-Architektur Intels Xe beschleunigt Raytracing in Hardware

      •  /