Der Wettlauf um die künstliche allgemeine Intelligenz (AGI) erreicht eine neue regulatorische Stufe. Google-DeepMind-Chef und Nobelpreisträger Demis Hassabis hat in einem persönlichen Manifest und einem Interview eine weitreichende Reform der KI-Aufsicht gefordert. Sein Vorschlag: Eine neue, US-geführte Behörde nach dem Vorbild der US-Finanzaufsicht FINRA. Diese soll primär von der Tech-Industrie selbst finanziert und mit unabhängigen Experten besetzt werden, um die Trägheit staatlicher Gesetzgebung zu umgehen.

Prüfpflichten und das Ende der unregulierten Open-Source-Modelle

Der Kern von Hassabis' Vorstoß liegt in der Einführung sogenannter 'Release Gates'. Führende KI-Labore müssten ihre fortschrittlichsten Modelle vor der Veröffentlichung für eine 30-tägige Testphase bei der neuen Behörde einreichen. Dort sollen die Systeme auf biologische, nukleare und Cyber-Sicherheitsrisiken geprüft werden. Hassabis warnt eindringlich vor dem Zeitdruck: Seiner Ansicht nach ist AGI nur noch wenige Jahre entfernt. Unregulierte Open-Source-Modelle könnten bereits in 18 Monaten unkontrollierbare globale Bedrohungen darstellen. Als Weckruf für diese Initiative nennt er das unkoordinierte Vorgehen der US-Regierung bei jüngsten Sicherheitsprüfungen von Anthropic-Modellen.

Ein zweischneidiges Schwert für den Wettbewerb

Hassabis' Initiative markiert einen Wendepunkt weg von theoretischen Absichtserklärungen hin zu harten Freigabeprozessen. Doch der Vorstoß ist nicht unumstritten. Während Befürworter die dringend benötigte Standardisierung und Agilität einer solchen Behörde loben, wittern Kritiker ein strategisches Manöver. Da Google DeepMind im direkten Wettbewerb mit OpenAI und Anthropic steht, würde eine solche Regulierung die Spielregeln für den gesamten Markt diktieren. Kleinere Entwickler und die Open-Source-Gemeinschaft könnten durch die strengen Auflagen systematisch benachteiligt werden, was die Vormachtstellung der etablierten Tech-Giganten zementieren würde.

Fazit

Der Vorschlag zeigt, dass die führenden Köpfe der KI-Entwicklung die Kontrolle über das Narrativ und die kommenden Regulierungsschritte behalten wollen. Ob sich eine industrie-finanzierte Behörde tatsächlich als unabhängiger Wächter oder eher als Instrument zur Marktabschottung erweisen wird, bleibt abzuwarten. Die Debatte um die Balance zwischen Innovation und globaler Sicherheit ist damit endgültig im institutionellen Raum angekommen.