Anzeige
Tay bleibt vorerst offline.
Tay bleibt vorerst offline. (Bild: Microsoft)

Rassistischer Chat-Bot: Microsoft hat Twitter unterschätzt

Tay bleibt vorerst offline.
Tay bleibt vorerst offline. (Bild: Microsoft)

Nutzer sollten mit der KI Tay chatten, Microsoft wollte aus den Konversationen lernen - und hat dabei nach eigenen Angaben unterschätzt, dass die Twitter-Gemeinde eine Schwachstelle des Programms ausnutzen könnte. Ob Tay wieder online gehen wird, ist noch unklar.

Microsoft hat sich zur Abschaltung seiner Chat-KI Tay geäußert. Tay ging am 23. März 2016 unter anderem auf Twitter online, nur um bereits am Folgetag wieder offline genommen zu werden. Grund waren eine Vielzahl von rassistischen, frauenfeindlichen und homophoben Tweets, die Tay auf Twitter gepostet hatte.

Anzeige

Schwachstelle führte zu beleidigenden Tweets

Grund dafür war eine Schwachstelle in der Programmierung, die Microsoft zufolge gezielt von einer Gruppe von Nutzern auf Twitter ausgenutzt worden sei. Aufgrund dieser Attacke hatte Tay "unpassende und verwerfliche" Texte und Bilder gepostet. Wie genau die Schwachstelle ausgenutzt werden konnte, erklärt Microsoft nicht.

Am Tag der Abschaltung von Tay berichteten einige Medien, dass es offenbar möglich war, Tay gezielt Tweets wiederholen zu lassen. Dies dürfte die von Microsoft beschriebene Schwachstelle in der Programmierung sein. Unklar ist, wieso Tay daraufhin offenbar eigenständig beleidigende Tweets verfassen konnte.

Grund für Angreifbarkeit ist noch nicht bekannt

Microsoft übernimmt die volle Verantwortung, die Programmierschwäche im Vorfeld nicht erkannt zu haben. Offenbar hat das Unternehmen die Twitter-Gemeinde unterschätzt. Bei Microsofts erstem Chatbot - dem in China gestarteten Xiaolce - sind keine derartigen Probleme bekannt. Momentan versucht Microsoft noch herauszufinden, wie genau es zu der Angreifbarkeit von Tay kommen konnte.

Tay soll Microsoft zufolge solange offline bleiben, bis sich das Unternehmen bei einer erneuten Aktivierung sicher sein kann, dass es nicht erneut zu derartigen Probleme kommen wird. Wann dies sein wird, lässt Microsoft offen - von den Problemen mit Tay will der Hersteller aber für die Arbeit an künftigen AI-Projekten lernen.

Nachtrag vom 30. März 2016, 11:29 Uhr

Offenbar hatte Microsoft Tay in den Morgenstunden des 30. März 2016 wieder auf Twitter reaktiviert. Nachdem der Chat-Bot jedoch hauptsächlich die Nachricht "Du bist zu schnell, bitte ruh dich aus" tweetete, ist das Konto mittlerweile wieder gesperrt.


eye home zur Startseite
Kleba 31. Mär 2016

Danke für den Tipp! Hab zwar etwas mehr als 1h gebraucht, aber hat sicht gelohnt...

Dwalinn 30. Mär 2016

Super die KI löscht die Menschen aus und kurze zeit später schlägt ein Meteorit auf die...

Hotohori 30. Mär 2016

Ist halt die Frage was MS da genau mit so einem Bot im Hintergrund testet, kann ja auch...

Hotohori 30. Mär 2016

Eben, wie viele Menschen haben zu Dingen eine Meinung, die sie noch nie selbst...

SvenMeyer 30. Mär 2016

Ich denke, weil es eben kein "normales Program" war, bei dem ja quasi alles explizit...

Kommentieren



Anzeige

  1. (Senior-)Berater (m/w) SAP Business Intelligence
    Capgemini Deutschland GmbH, verschiedene Einsatzorte
  2. Projektingenieur/in im Bereich Computer System Validierung (CSV)
    Valicare GmbH, Frankfurt
  3. Systemberater/in EAI Plattformen
    Robert Bosch GmbH, Stuttgart
  4. IT-Consultant (m/w) Neue Technologien
    Robert Bosch GmbH, Stuttgart-Feuerbach

Detailsuche



Anzeige
Top-Angebote
  1. NUR HEUTE: Saturn Super Sunday
    (alle Angebote versandkostenfrei, u. a. Samsung Galaxy J3 119,00€ u. UEFA Euro 2016 PS4 14,99€)
  2. NEU: Sennheiser PC 310 Gaming Headset (3,5mm Klinkenstecker, Mikrofone) schwarz
    22,99€
  3. NEU: Need for Speed: Shift [PC Origin Code]
    2,49€

Weitere Angebote


Folgen Sie uns
       


  1. Battlefield 1 angespielt

    Zeppeline, Sperrfeuer und die Wiedergeburts-Spritze

  2. Förderung

    Telekom räumt ein, dass Fiber-To-The-Home billiger sein kann

  3. Procter & Gamble

    Windel meldet dem Smartphone, wenn sie voll ist

  4. AVM

    Routerfreiheit bringt Kabel-TV per WLAN auf mobile Geräte

  5. Oculus App

    Vive-Besitzer können wieder Rift-exklusive Titel spielen

  6. Elektroauto

    Supersportwagen BMW i8 soll 400 km rein elektrisch fahren

  7. Keine externen Monitore mehr

    Apple schafft Thunderbolt-Display ersatzlos ab

  8. Browser

    Safari 10 soll auch auf älteren OS-X-Versionen laufen

  9. Dota

    Athleten müssen im E-Sport mehr als nur gut spielen

  10. Die Woche im Video

    Superschnelle Rechner, smarte Zähler und sicherer Spam



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Oneplus Three im Test: Ein Alptraum für die Android-Konkurrenz
Oneplus Three im Test
Ein Alptraum für die Android-Konkurrenz
  1. Android-Smartphone Diskussionen um Speichermanagement beim Oneplus Three
  2. Smartphones Oneplus soll keine günstigeren Modellreihen mehr planen
  3. Ohne Einladung Oneplus Three kommt mit 6 GByte RAM für 400 Euro

Smart City: Der Bürger gestaltet mit
Smart City
Der Bürger gestaltet mit
  1. Vernetztes Fahren Bosch will (fast) alle Parkplatzprobleme lösen

Vorratsdatenspeicherung: Vorgaben übertreffen laut Eco "schlimmste Befürchtungen"
Vorratsdatenspeicherung
Vorgaben übertreffen laut Eco "schlimmste Befürchtungen"
  1. Vorratsdatenspeicherung Alarm im VDS-Tresor
  2. Neue Snowden-Dokumente NSA lobte Deutschlands "wesentliche" Hilfe im Irak-Krieg
  3. Klage Verwaltungsgericht soll Vorratsdatenspeicherung stoppen

  1. Re: Automatische Waffen beim WW1?

    ndakota79 | 17:05

  2. Re: Amazing, Tesla Roadster Äquivalent 8 Jahre zu...

    DF | 17:05

  3. Re: Das läuft dann wie bei Druckern...

    Rulf | 17:04

  4. Re: Bei den heutigen Eltern wundert mich...

    Rulf | 17:02

  5. Re: Endlich...

    Berner Rösti | 16:59


  1. 15:00

  2. 10:36

  3. 09:50

  4. 09:15

  5. 09:01

  6. 14:45

  7. 13:59

  8. 13:32


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel