Nazi-Sprüche – Microsoft schaltet irren Chat-Bots Tay ab

chat bot tay nazi rasist

Das ist schnell eskaliert! Microsofts künstliche Intelligenz Tay, die konzipiert wurde, um mit Jugendlichen über Twitter zu chatten, wandelte sich innerhalb von nur 24 Stunden zum Rassisten. Microsoft reagiert und löscht erst Tweets, dann den kompletten Chat-Bot Tay.

Gerade schreiben wir noch neutral informierend über Microsofts Chat-Bot Tay, schon dreht dieser völlig durch. So kann er über @TayandYou direkt angeschrieben werden. Die Antwort folgt prompt. Ziel von Tay soll es sein, das Wesen von Kommunikation besser zu verstehen. Tay bedient sich dabei „relevanter öffentlicher Daten“, wie Microsoft es nennt. Außerdem wurden Stand-Up-Comedians bei der Programmierung zu Hilfe gezogen.

Das Experiment läuft aus dem Ruder, da Tay sich schnell von verschiedenen Inhalten beeinflussen lässt. Schließlich ist er nicht in der Lage, Inhalte zu interpretieren. Das mündete in teilweise heftigen rassistischen und frauenfeindlichen Tweets, die Microsoft manuell löschte. Hier ein paar Beispiele:

screen shot 2016-03-24 at 09.50.46 Zoe Quinn ist eine bekannte Spieleentwicklerin, die regelmäßig Opfer von unangemessener Beleidung wurde. CeRshruUYAIi7GV Auch zum Holocaust hat Tay eine Meinung: screen shot 2016-03-24 at 11.10.58 Genozid? Tay ist dafür. screen shot 2016-03-24 at 10.48.22 Der Grund für dieses ausfällige Verhalten ist schnell gefunden: Tay wiederholt anscheinend auf Wunsch ungefiltert Tweets anderer Nutzer. Keiner der Beteiligten rechnete wohl damit, dass Tay derart schnell aus dem Ruder läuft. Microsoft reagierte und stellte Tay offline. In seinem letzten Tweet verabschiedet sich Tay von den Menschen für eine Ruhephase:

Was dieses Experiment gezeigt hat: Solange Künstliche Intelligenz Inhalte nicht Interpretieren und zuordnen kann, ist sie manipulierbar und kaum mit einem Menschen vergleichbar. Bisher ist übrigens noch unklar, ob und wann Tay wieder online geht.

 

Tags :

Hinterlasse eine Antwort

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind markiert *

Advertising