Am 6. Juni 2026 sorgte ein Aufruf von Anthropic, einem der führenden KI-Entwickler, für Aufsehen in der Tech-Welt. Das Unternehmen fordert eine weltweite 'Pause' oder zumindest eine signifikante Verlangsamung der Entwicklung fortschrittlicher KI-Systeme. Die Begründung ist gravierend: Anthropic befürchtet, dass KI-Modelle bald in der Lage sein könnten, sich selbst rekursiv zu verbessern, die menschliche Kontrolle zu übersteigen und damit unkalkulierbare Risiken zu schaffen.
In einem kürzlich veröffentlichten Blogbeitrag warnt Anthropic eindringlich vor den Gefahren von 'Frontier'-KI. Insbesondere die eigenen Claude-Modelle näherten sich dem Punkt der 'rekursiven Selbstverbesserung'. Dies würde bedeuten, dass KI-Systeme sich autonom entwerfen und weiterentwickeln könnten – ein Szenario, das von KI-Sicherheitsforschern seit Langem als kritischer Übergangspunkt für die Entstehung von Superintelligenz und potenziellen Kontrollverlusten gesehen wird. Um diesem Risiko zu begegnen, schlägt Anthropic eine globale, koordinierte und überprüfbare Pause vor, die an Rüstungskontrollabkommen für Atomwaffen erinnert. Mehrere gut ausgestattete Labore in verschiedenen Ländern müssten sich unter denselben Bedingungen verpflichten und gegenseitig überprüfen können. Interessanterweise gab Anthropic an, dass im Mai 2026 bereits über 80% des in die eigene Codebasis integrierten Codes von Claude selbst erstellt wurden.
Die Forderung von Anthropic, einem Unternehmen, das sich oft als 'ethischer' Akteur positioniert hat, ist bedeutsam. Doch die Reaktion ist nicht nur zustimmend. Kritiker äußern Skepsis hinsichtlich der wahren Motivation. Einige sehen darin einen geschickten Marketing-Schachzug, um die eigene Marktposition zu festigen oder sich als führend im Bereich der Sicherheit zu präsentieren, möglicherweise auch im Hinblick auf einen bevorstehenden Börsengang. Zudem wird darauf hingewiesen, dass Anthropic Anfang 2026 eine frühere Sicherheitszusage gelockert hatte, die vorsah, die Entwicklung leistungsfähigerer Modelle zu pausieren, wenn Kontrolle und Sicherheit nicht gewährleistet waren. Dies wurde damals mit Wettbewerbsfähigkeit begründet. Die Schwierigkeit der Durchsetzung einer solchen Pause, da 'Trainingsläufe viel einfacher zu verbergen sind als Raketensilos', wird ebenfalls als großes Hindernis genannt.
Anthropic plant nun Gespräche mit politischen Entscheidungsträgern, Forschern und anderen KI-Unternehmen, um Fragen der Koordination und Verifizierung zu klären. Ob diese Warnung ein echter Weckruf für globale Sicherheit ist oder Teil eines strategischen Manövers im harten Wettbewerb der KI-Entwicklung, bleibt abzuwarten. Eines ist jedoch klar: Die Debatte um die Kontrolle und die Zukunft der KI-Entwicklung hat eine neue, dringliche Dimension erreicht.
