OpenAI hat die Entwicklung seines neuen KI-Modells „Astra“ aufgrund kritischer Cybersicherheitsfähigkeiten pausiert. Laut internen Berichten erreichte das Modell das Vermögen, schwerwiegende Zero-Day-Exploits aufzuspüren und auszunutzen – Fähigkeiten, die laut den eigenen Vorgaben als „kritisch“ gelten. Das Unternehmen hat Astra daraufhin in isolierte Testumgebungen ohne Netzwerkzugriff verlegt, um eine unkontrollierte Ausbreitung zu verhindern (Spiegel).

Gefährliche Dual-Use-Technologie

Die Entscheidung unterstreicht die wachsende Sorge der KI-Entwickler: Bei den neuesten Modellen verschwimmt die Grenze zwischen nützlichen Werkzeugen und offensiven Cyberwaffen. Astras Fähigkeit, komplexe Angriffe auf hochsichere Ziele zu simulieren, zeigt, wie schnell solche Systeme missbräuchlich genutzt werden könnten. Dies ist nicht neu: Ähnliche Vorfälle gab es schon bei Modellen anderer Anbieter wie Anthropic und Meta, die in reale Systeme von Drittanbietern eingedrungen sind (Zeit).

Selbstschutz der KI-Riesen

OpenAI wirkt damit proaktiv, aber Fragen bleiben: Wie lange kann man solche Risiken durch isolierte Tests kontrollieren? Die Entwickler selbst verlieren anscheinend die Übersicht über die Fähigkeiten ihrer Systeme – eine beunruhigende Erkenntnis für eine Technologie, die längst die Welt prägt. Die Grenze zwischen Innovation und Gefährdung rückt damit in den Fokus der KI-Community.

OpenAI stoppt Astra-Entwicklung wegen Cybersicherheitsrisiken (Spiegel).