Künstliche Intelligenz: Anthropic fordert KI-Moratorium

Künstliche Intelligenz : Anthropic fordert KI-MoratoriumVon Roland Lindner, New York05.06.2026, 17:35Lesezeit: 2 Min.Bildbeschreibung ausklappenWarnt vor den Risiken seiner eigenen Produkte: Anthropic-Mitgründer und -Vorstandschef Dario AmodeiReutersDer KI-Spezialist warnt davor, dass Menschen die Kontrolle über KI-Systeme entgleiten könnte – und schlägt eine koordinierte Aktion der Branche vor.Zusammenfassung Anhören Merken TeilenVerschenkenDrucken Zur App Anthropic zählt zu den wachstumsstärksten Entwicklern Künstlicher Intelligenz und bereitet gerade seinen Börsengang vor. Dies hält das amerikanische Unternehmen aber nicht davon ab, vor den Risiken seiner eigenen Produkte zu warnen. Jetzt hat es ein koordiniertes branchenweites Moratorium für die Entwicklung von KI-Technologien vorgeschlagen. „Wir glauben, es wäre gut für die Welt, die Option zu haben, die Entwicklung fortgeschrittener KI zu verlangsamen oder vorübergehend zu stoppen“, heißt es in einem Blog-Eintrag. Dies solle es „gesellschaftlichen Strukturen“ ermöglichen, mit den Technologien Schritt zu halten.Seine Forderung begründet Anthropic damit, dass KI-Systeme zunehmend an ihrer eigenen Entwicklung beteiligt seien. So werde Anthropics eigene Softwareprogrammierung heute zu mehr als 80 Prozent vom KI-System Claude übernommen. Anfang vergangenen Jahres sei das noch ein niedriger einstelliger Prozentsatz gewesen. Der Trend gehe nun in die Richtung, dass KI-Modelle eines Tages dazu in der Lage sein könnten, „ihre eigenen Nachfolger“ selbständig zu entwickeln. Das sei zwar keine Zwangsläufigkeit, könnte aber früher der Fall sein, als die Welt sich darauf vorbereiten könne. KI, die sich selbst entwickelt, könne zwar enormen Nutzen auf Gebieten wie Wissenschaft und Gesundheit stiften. Aber sie könne auch das Risiko erhöhen, „dass Menschen die Kontrolle über KI-Systeme verlieren“. F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen F.A.Z. bei Google bevorzugen Damit ein etwaiges Moratorium auch funktioniert...