Nach nur 16 Stunden beendet - Microsofts erster KI-Chatbot geriet außer Kontrolle

Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet völlig außer KontrolleVor ChatGPT sorgte dieser KI-Chatbot Tay für einen EklatFoto: Nico Tapia/dpa-tmnLarsLubienetzki22.08.2026 - 16:07 Uhr TTS-Player überspringen↵Artikel weiterlesenViele Menschen lernten Künstliche Intelligenz erst mit ChatGPT kennen. Doch schon Jahre zuvor testeten Unternehmen ähnliche Systeme. Besonders bekannt wurde Microsofts Chatbot Tay. Das Experiment endete jedoch schon nach 16 Stunden und gilt bis heute als Beispiel für die Risiken unzureichend abgesicherter KI.Microsoft stellte Tay am 23. März 2016 auf Twitter, heute X, vor. Der Chatbot trat als weiblicher Avatar auf und sollte mit Nutzern kommunizieren. Schon nach kurzer Zeit verbreitete Tay allerdings rassistische und hasserfüllte Inhalte.Warum Tay außer Kontrolle geriet„Tay war von technischer Seite ein spannendes Experiment. Allerdings fing es nach relativ kurzer Zeit damit an, problematische Inhalte zu produzieren. Das waren beispielsweise Rassismus und Hassrede“, erinnert sich Anna Kruspe, Informatikprofessorin an der Hochschule für angewandte Wissenschaften München.Microsoft veröffentlichte kaum technische Details zum Vorfall. Laut Kruspe nutzte Tay andere neuronale Netze als heutige Systeme. Diese konnten längere Gespräche deutlich schlechter im Zusammenhang verstehen.Moderne KI setzt auf SchutzmechanismenNach Einschätzung der Expertin reagierte Tay besonders stark auf polarisierende Inhalte aus der Twitter-Community. „Wenn die Inputdaten problematisch sind, ist das Risiko hoch, dass der Output auch problematisch wird“, erklärt Kruspe.Heutige Chatbots werden laut der Informatikprofessorin nicht mehr direkt und ungefiltert durch Eingaben von Nutzern weitertrainiert. Zudem kommen vermutlich automatische Filter gegen Hassrede und andere extreme Inhalte zum Einsatz.Mehr zum ThemaDer große Report: Ersetzt Künstliche Intelligenz bald die Ärzte?Circa 30.000 von etwa 98.000 Arztpraxen in Deutschland arbeiten schon mit KI.Das...