Der Reformationstag am 31. Oktober erinnert an den Beginn der Reformation durch Martin Luther. Ein gesetzlicher Feiertag ist er nur in einigen Bundesländern. Der Tag steht auch für eine öffentliche Debatte, die durch verbreitete Thesen neuen Schwung bekam. Eine vorsichtige Parallele dazu bietet ein offener Brief aus der KI-Forschung: Er macht konkrete Vorschläge zur Kontrolle leistungsfähiger Systeme öffentlich verhandelbar.

Geoffrey Hinton, Yoshua Bengio und rund 400 weitere Wissenschaftler:innen aus 34 Ländern fordern darin eine internationale Instanz für KI-Sicherheit. Die Unterzeichnenden halten freiwillige Versprechen der Branche für nicht ausreichend. Sie wollen, dass eine unabhängige Stelle Anbieter beaufsichtigt und Sicherheitsregeln überprüft. Über den Brief berichtet t3n.

Was das Gremium tun soll

Die vorgeschlagene Stelle soll Vorfälle mit fortschrittlichen KI-Modellen öffentlich machen. Das könnte helfen, Risiken sichtbar zu machen, die sonst nur einzelnen Firmen bekannt sind. Zugleich würde eine unabhängige Aufsicht prüfen, ob Anbieter vereinbarte Standards einhalten. Der Brief fordert damit nicht nur Regeln, sondern auch eine Instanz, die ihre Umsetzung kontrolliert.

Ein weiterer Vorschlag betrifft die Entwicklung besonders leistungsfähiger Modelle. Die Forschenden wollen sie in dieser Phase von externen Netzwerken isolieren. So soll verhindert werden, dass unkontrollierte Zugriffe oder Verbindungen zusätzliche Gefahren schaffen. Wie genau eine solche Trennung aussehen müsste, geht aus den vorliegenden Angaben nicht hervor. Der Vorschlag zeigt aber, dass die Unterzeichnenden bereits während der Entwicklung ansetzen wollen.

Wer setzt die Regeln?

Die Forderung ist Teil einer größeren Debatte über die Grenzen freiwilliger Selbstkontrolle. Wenn Firmen ihre eigenen Sicherheitszusagen prüfen, bleibt offen, wer Verstöße feststellt und Folgen daraus zieht. Ein internationales Gremium könnte gemeinsame Maßstäbe schaffen. Es würde jedoch Fragen aufwerfen: Wer bestimmt seine Befugnisse? Wie unabhängig wäre es? Und wie ließen sich Regeln über Ländergrenzen hinweg durchsetzen?

Auch die politische Einordnung ist nicht einheitlich. Die EU-Kommission hält die Instrumente des AI Act für ausreichend. Zudem unterstützen nicht alle Forschenden strengere Regeln. Der offene Brief ist daher keine gemeinsame Linie der gesamten KI-Forschung. Er ist ein Vorschlag, der einen konkreten Platz in einer umstrittenen Debatte beansprucht.

Ein Brief als Auftakt, nicht als Beschluss

Der Vergleich mit dem Reformationstag hat klare Grenzen. Historische Thesen und heutige Forderungen zur KI-Aufsicht sind nicht gleichzusetzen. Gemeinsam ist ihnen hier nur die Rolle des geschriebenen Wortes: Ein Text kann Positionen verbreiten und eine öffentliche Auseinandersetzung anstoßen. Der Brief entscheidet nicht, wer künftig KI kontrolliert. Er zwingt aber zu einer präziseren Frage: Reichen Regeln ohne unabhängige Prüfung aus?

Ob aus der Forderung ein internationales Gremium wird, ist offen. Der nächste Schritt wäre, Auftrag, Befugnisse und Grenzen einer solchen Stelle zu klären. Erst daran ließe sich messen, ob sie mehr wäre als ein weiterer Appell.