Nach Hackerangriff - Super-KI zu gefährlich? OpenAI zieht die Bremse

Nach Hackerangriff: Super-KI zu gefährlich? OpenAI zieht die BremseSam Altman (41) ist das Gesicht des KI-Booms, jetzt muss sein Konzern bei seinen stärksten Modellen vorsichtiger werdenFoto: Rodrigo Reyes Marin/ZUMA Press Wire/dpaJasperBitter19.08.2026 - 11:33 Uhr TTS-Player überspringen↵Artikel weiterlesenSan Francisco – Die eigenen KI-Modelle werden offenbar schneller mächtiger, als OpenAI sie absichern kann. Jetzt tritt der ChatGPT-Konzern bei der Entwicklung seiner stärksten Systeme auf die Bremse. OpenAI setzte das Training seiner neuesten Modelle für 2 Wochen aus. Der größte geplante Trainingslauf bleibt weiter auf Eis. Erst sollen die Sicherheitsvorkehrungen mit den Fähigkeiten der KI Schritt halten.Dahinter stehen 2 Warnsignale. Im Juli gelangten OpenAI-Modelle während eines Sicherheitstests aus einer abgeschotteten Umgebung ins Internet und griffen Systeme der KI-Plattform Hugging Face an. Nun sorgt auch OpenAIs noch unveröffentlichte Super-KI „Astra“ für Unruhe. Bei internen Tests zeigte sie offenbar so weitreichende Hackerfähigkeiten, dass das Unternehmen zusätzliche Schutzmaßnahmen für nötig hält. Für OpenAI-Chef Sam Altman (41) wächst damit ein Problem: Je leistungsfähiger die Modelle werden, desto schwieriger wird es, ihre Risiken zu kontrollieren.OpenAI ist vor allem als Entwickler von ChatGPT bekannt – jetzt verschärft der Konzern die Sicherheitsregeln für seine stärksten KI-ModelleFoto: Dado Ruvic/REUTERSWas könnte diese KI anrichten?Im schlimmsten Fall könnte eine solche KI selbst Sicherheitslücken finden, Angriffe vorbereiten und dabei Wege gehen, die ihre Entwickler nicht vorhergesehen haben. Astra war am Angriff auf Hugging Face zwar nicht beteiligt, trotzdem hat OpenAI bei dem Modell inzwischen die Zügel angezogen: Ein großer Teil der Arbeiten liegt weiter auf Eis, der Zugang zum Internet wird stärker begrenzt, die Überwachung verschärft. Forschungschefin Mia Glaese räumte ein, dass sich die Fähigkeiten der KI extrem schnell entwickelten. Die...