Abo
  • Services:

Tay: Microsofts Chat-Bot wird zum Rassisten

Tay heißt Microsofts künstliche Intelligenz, mit der sich unter anderem Twitter-Nutzer unterhalten können. Innerhalb der ersten 24 Stunden ihrer Existenz wandelte sich Tay jedoch recht schnell zum Rassisten - bis Microsoft offenbar den Stecker zog.

Artikel veröffentlicht am ,
Microsofts Chat-Intelligenz Tay lässt sich offenbar leicht beeinflussen.
Microsofts Chat-Intelligenz Tay lässt sich offenbar leicht beeinflussen. (Bild: Microsoft)

Mit Tay hat Microsoft eine künstliche Intelligenz vorgestellt, die sich selbstlernend auf Twitter, Groupme und Kik mit realen Personen unterhalten kann. Die KI soll vom Verhalten her an in den USA wohnende Menschen zwischen 18 und 24 Jahren angepasst sein.

Tay unterhält sich - und lässt sich beeinflussen

Stellenmarkt
  1. TQ-Systems GmbH, Gut Delling bei München
  2. Arnold & Richter Cine Technik GmbH & Co. Betriebs KG, Stephanskirchen bei Rosenheim

Auf Twitter lässt sich Tay mit @TayandYou direkt ansprechen, die Chat-KI antwortet anschließend. Aus den Gesprächen soll Tay lernen, Microsoft erhofft sich von dem Experiment Aufschluss über das Verstehen von Unterhaltungen. Als Grundlage für das Wissen von Tay dient "relevant public data", wie Microsoft es selbst nennt. Zudem sollen Improvisations-Komiker bei der Programmierung geholfen haben.

Nach knapp einem Tag auf Twitter ist das Projekt allerdings etwas aus dem Ruder gelaufen: Recht schnell hat sich Tay von verschiedenen Inhalten beeinflussen lassen, was mitunter zu stark rassistischen und frauenfeindlichen Tweets der KI geführt hat. Das liegt offenbar auch an der Tatsache, dass Tay auf Kommando einfach Tweets anderer Nutzer wiederholt, wie The Verge anmerkt.

So finden sich beispielsweise zahlreiche Tweets von Tay mit kontroversen Aussagen von Donald Trump, einem der republikanischen Präsidentschaftsanwärter. Besorgniserregender dürften allerdings diejenigen Tweets sein, die Tay von sich aus gepostet hat und die eindeutig als rassistisch und nazistisch einzustufen sind.

Totalitarismus und Feminismus

So stellt Tay unter anderem fest, dass der Komiker und Aktivist Ricky Gervais "Totalitarismus von Adolf Hitler" gelernt habe, "dem Erfinder von Atheismus". In anderen Tweets verwendet Tay Worte wie "Nigger" oder äußert sich antisemitisch. Auch wechselt Tay seine Meinungen mitunter schnell: Einmal ist er gegen Feminismus, ein anderes Mal dafür, auch zum Thema Transgender hat er wechselnde Meinungen.

Microsoft hat Tay mittlerweile offenbar vorerst abgeschaltet. In ihrer letzten Statusmitteilung erklärt die KI, dass sie jetzt erst einmal offline gehen müsse, um all die Eindrücke zu verarbeiten. Einige der rassistischen Tweets hat Microsoft mittlerweile gelöscht - eine Sammlung nicht mehr vorhandener Tweets findet sich unter anderem bei Socialhax.

Ein Fehlschlag muss das Experiment mit Tay allerdings nicht unbedingt sein: Es ist sicher interessant zu beobachten, wie schnell eine unbedarfte KI beeinflussbar ist und sich - basierend auf eigenen, als sinnvoll erachteten Analysen - plötzlich rassistisch äußert. Ob und wann Microsoft Tay wieder aktiviert, ist noch nicht bekannt.



Anzeige
Spiele-Angebote
  1. (-78%) 8,99€
  2. 14,99€ + 1,99€ Versand oder Abholung im Markt
  3. (-20%) 47,99€
  4. 59,99€ mit Vorbesteller-Preisgarantie

Discept 29. Mär 2016

So intelligent, wie eine Socialmedia-nutzende 19 jährige....Problem erkannt =D

herscher12 29. Mär 2016

Sagen wir in einem Land in dem die AfD massig Stimmen bekommt

Bouncy 29. Mär 2016

Na in dem Fall wurde ja immerhin schon etwas beigebracht, "andere schädigen = nein". Die...

SelfEsteem 29. Mär 2016

Na dann nenne uns doch mal die verschiedenen menschlichen Rassen und erklaere uns die...

SteamKeys 28. Mär 2016

+1 aber ohne das getrolle hätte man mehr erkenntnisse aus dem 1. versuch ziehen können.


Folgen Sie uns
       


Amazons Fire HD 10 Kids Edition - Hands on

Das Fire HD 10 Kids Edition ist das neue Kinder-Tablet von Amazon. Das Tablet entspricht dem normalen Fire HD 10 und wird mit speziellen Dreingaben ergänzt. So gibt es eine Gummiummantelung, um Stürze abzufangen. Außerdem gehört der Dienst Freetime Unlimited für ein Jahr ohne Aufpreis dazu. Das Fire HD 10 Kids Edition kostet 200 Euro. Falls das Tablet innerhalb von zwei Jahren nach dem Kauf kaputtgeht, wird es ausgetauscht.

Amazons Fire HD 10 Kids Edition - Hands on Video aufrufen
Esa: Sonnensystemforschung ohne Plutonium
Esa
Sonnensystemforschung ohne Plutonium

Forscher der Esa arbeiten an Radioisotopenbatterien, die ohne das knappe und aufwendig herzustellende Plutonium-238 auskommen. Stattdessen soll Americium-241 aus abgebrannten Brennstäben von Kernkraftwerken zum Einsatz kommen. Ein erster Prototyp ist bereits fertig.
Von Frank Wunderlich-Pfeiffer

  1. Raumfahrt Die Digitalisierung des Weltraums
  2. Raumfahrt Mann überprüft mit Rakete, ob die Erde eine Scheibe ist
  3. Raumfahrt Falsch abgebogen wegen Eingabefehler

Garmin Fenix 5 Plus im Test: Mit Musik ins unbekannte Land
Garmin Fenix 5 Plus im Test
Mit Musik ins unbekannte Land

Kopfhörer ins Ohr und ab zum Joggen, Rad fahren oder zum nächsten Supermarkt spazieren - ohne Smartphone: Mit der Sport-Smartwatch Fenix 5 Plus von Garmin geht das. Beim Test haben wir uns zwar im Wegfindungsmodus verlaufen, sind von den sonstigen Navigationsoptionen aber begeistert.
Ein Test von Peter Steinlechner

  1. Garmin im Hands on Alle Fenix 5 Plus bieten Musik und Offlinenavigation

Always Connected PCs im Test: Das kann Windows 10 on Snapdragon
Always Connected PCs im Test
Das kann Windows 10 on Snapdragon

Noch keine Konkurrenz für x86-Notebooks: Die Convertibles mit Snapdragon-Chip und Windows 10 on ARM sind flott, haben LTE integriert und eine extrem lange Akkulaufzeit. Der App- und der Treiber-Support ist im Alltag teils ein Manko, aber nur eins der bisherigen Geräte überzeugt uns.
Ein Test von Marc Sauter und Oliver Nickel

  1. Qualcomm "Wir entwickeln dediziertes Silizium für Laptops"
  2. Windows 10 on ARM Microsoft plant 64-Bit-Support ab Mai 2018
  3. Always Connected PCs Vielversprechender Windows-RT-Nachfolger mit Fragezeichen

    •  /