Google DeepMind hat einen neuen Weg ausprobiert, um Software sicherer zu machen. Ein Forschungsteam setzte KI-Agenten ein, um Teile der Signal-Software zu prüfen. Genauer ging es um libsignal, die Programmbibliothek hinter dem verschlüsselten Messenger. Die Agenten sollten mathematische Beweise dafür finden, dass der Code bestimmte Sicherheitseigenschaften wirklich einhält. Über die Arbeit berichtet unter anderem unite.ai.

Was die Agenten in vier Wochen schafften

Das Team ließ die Agenten rund vier Wochen laufen. In dieser Zeit entstanden etwa 6,5 Millionen Zeilen Beweiscode. Dieser Code ist in der Sprache Lean geschrieben. Lean ist ein Werkzeug, mit dem ein Computer jeden einzelnen Beweisschritt nachrechnen kann. Die Menschen im Team legten dabei die wichtigen Dinge selbst fest. Sie entschieden, welche Eigenschaften überhaupt geprüft werden sollen. Sie gaben auch die genauen Beschreibungen dieser Eigenschaften frei.

Geprüft wurden unter anderem drei Punkte. Erstens die Forward Secrecy: Alte Schlüssel sollen später nichts mehr über neue Gespräche verraten. Zweitens die Echtheit der Gesprächspartner beim Verbindungsaufbau. Drittens die Geheimhaltung der Daten in dieser ersten Phase. Das sind Kernfragen bei einem Messenger, der Privatsphäre verspricht.

Ein ehrlicher Test mit alten Fehlern

Die Forscher wollten wissen, ob ihre Methode echte Probleme überhaupt findet. Dafür bauten sie zwei frühere Fehler absichtlich wieder in den Code ein. Die Agenten sollten diese Fehler erkennen und Gegenbeweise liefern. Das gelang. Dieser Test ist wichtig, denn er zeigt: Das Verfahren kann nicht nur Beweise produzieren, sondern auch Widersprüche aufdecken.

Trotzdem sollte man das Ergebnis nicht überbewerten. Die Beweise gelten nur für den untersuchten Ausschnitt. Die vollständigen Signal-Apps wurden nicht geprüft. Gruppenchats, das Erzeugen von Schlüsseln und sogenannte Seitenkanäle blieben außen vor. Seitenkanäle sind zum Beispiel Rückschlüsse über Laufzeiten oder Energieverbrauch. Solche Lücken sind keine Nebensache. Ein maschinell geprüfter Beweis ist kein allgemeines Sicherheitszeugnis. Seine Aussagekraft hängt davon ab, was genau beschrieben wurde und was bewusst fehlt.

Was das für die Praxis bedeutet

Formale Beweise galten lange als sehr aufwendig. Hier zeigt sich, dass KI-Agenten einen großen Teil der Schreibarbeit übernehmen können. Menschen behalten aber die Kontrolle über die Ziele. Das ist eine sinnvolle Arbeitsteilung. Die Agenten liefern Fleißarbeit, die Menschen setzen den Rahmen.

Für Nutzer von Signal ändert sich dadurch erst einmal nichts. Die Arbeit ist ein Forschungsbeitrag, kein fertiges Prüfsiegel für die App. Sie zeigt aber, wohin die Reise gehen könnte. Sicherheitsprüfungen von Software könnten schneller und gründlicher werden. Voraussetzung bleibt, dass Fachleute genau hinschauen, welche Teile geprüft wurden und welche nicht.

Fazit

Die DeepMind-Arbeit ist ein beachtlicher Fortschritt bei der Frage, wie KI beim Prüfen von sicherheitskritischem Code helfen kann. Sie ist aber kein Freibrief. Wer die Ergebnisse liest, sollte auf den geprüften Rahmen achten. Genau diese Ehrlichkeit macht die Studie wertvoll.