Auf einer KI-Antwort steht oft ein Modellname. Ob im Hintergrund tatsächlich dieses Modell gearbeitet hat, lässt sich für Nutzerinnen und Nutzer normalerweise schwer prüfen. Anthropic stellt mit FlashProve einen quelloffenen Forschungsprototyp vor, der dafür einen kryptografischen Nachweis erprobt.
Mehr als ein Fingerabdruck
Zuerst veröffentlicht der Anbieter laut Anthropic einen kurzen digitalen Fingerabdruck der Modellgewichte. Das sind die Zahlenwerte, die ein Modell beim Training gelernt hat. Zu einer Anfrage erzeugt der Anbieter zusätzlich eine Beweisdatei. Wer Fingerabdruck, Anfrage, Ausgabe und Beweis besitzt, kann prüfen, ob die ausgegebenen Textbausteine mit den zugesagten Gewichten berechnet wurden.
Damit die Prüfung etwas über das angekündigte Modell aussagt, muss auch der Fingerabdruck zuverlässig diesem Modell zugeordnet sein. Ob eine Antwort sachlich richtig oder sicher ist, beantwortet der Nachweis nicht.
Die Technik heißt Zero-Knowledge-Beweis: Die Prüfung soll funktionieren, ohne die geheimen Gewichte offenzulegen. Die Architektur bleibt sichtbar. Mögliche Seitenkanäle, etwa Hinweise durch die benötigte Zeit, behandelt diese Veröffentlichung laut Anthropic nicht.
Wofür wäre das nützlich?
Kundinnen und Kunden könnten leichter kontrollieren, ob ein Dienst heimlich ein günstigeres Modell statt des zugesagten nutzt. Sicherheitsprüfer könnten untersuchen, ob das getestete Modell dem öffentlich angebotenen entspricht. Noch sind das mögliche Anwendungen der Forschung.
Wie weit ist der Prototyp?
Anthropic untersuchte das System mit einer 4-Bit-Version von Metas Llama 4 Maverick. Die technische Zusammenfassung nennt rund 19 MB pro Nachweis für eine Anfrage mit 1.024 Tokens. Die Beweiserstellung benötigt zusätzliche GPU-Zeit gegenüber der normalen Modellausführung; die Veröffentlichung bleibt ein Forschungsprototyp.
Der Quellcode steht unter Apache 2.0; das Repository bezeichnet das Projekt als nicht gewarteten Forschungsprototyp. Eine automatische Echtheitsprüfung für jede Claude-Antwort ist damit nicht eingeführt.
