Anthropic arbeitet an kryptografischem Nachweis für KI

Anthropic arbeitet an einem quelloffenen System, mit dem sich nachweisen lassen soll, welches KI-Modell eine bestimmte Ausgabe erzeugt hat. Das Unternehmen hat das Projekt mit dem Namen FlashProve in einem Forschungsbeitrag vorgestellt. Es soll sogenannte Provable Inference ermöglichen, also einen kryptografischen Nachweis, dass eine Antwort von einem bestimmten Modell stammt. Nutzer sollen damit überprüfen können, ob sie tatsächlich mit dem Modell arbeiten, für das sie bezahlen.

Schutz vor heimlich getauschten Modellen

Ähnlich wie Signaturen bei E-Mails, mit denen Empfänger prüfen können, ob eine Nachricht vom angegebenen Absender stammt, soll FlashProve verhindern, dass ein Modell als ein anderes ausgegeben wird. Das gilt laut den Forschern auch dann, wenn der Anbieter selbst das Modell betreibt. So ließe sich etwa verhindern, dass ein KI-Unternehmen heimlich ein günstigeres Modell einsetzt, um Kosten zu sparen, oder ein teureres, um Leistungsergebnisse aufzubessern.

Zudem könnten Dritte belegen, dass eine Aufgabe tatsächlich von einem bestimmten Modell erledigt wurde. „Ein Entwickler könnte behaupten, seine Softwarebibliothek sei von einem Frontier-Modell für Cybersicherheit auf Schwachstellen geprüft worden, oder ein Unternehmen könnte behaupten, sein Geschäftsplan sei von einem geeigneten Modell abgesegnet worden. Wie kann ein Nutzer diese Behauptungen überprüfen?”, schreiben die Forscher.

Fingerabdruck statt Modellgewichte

Damit das System funktioniert, müssen KI-Anbieter für jedes veröffentlichte Modell einen sogenannten Fingerabdruck bereitstellen. Ausgaben lassen sich dann kryptografisch mit diesem Fingerabdruck abgleichen. Die Gewichte des Modells, die das Verhalten bestimmen und die Anbieter geschlossener Modelle geheim halten, lassen sich daraus nicht ableiten. Das System soll damit auch für kommerzielle Modelle nutzbar sein. Die Prüfung soll so ressourcenschonend sein, dass sie auf einem lokalen Gerät laufen kann.

Anthropic hat eine technische Spezifikation sowie funktionierenden Code für einzelne Bestandteile unter einer Open-Source-Lizenz auf GitHub veröffentlicht. Die Forschung dauert an. Pläne, FlashProve bei Anthropic oder anderen Anbietern einzusetzen, gibt es nicht. Die Forscher bezeichnen die Veröffentlichung als Zwischenstand und rufen andere auf, die Arbeit aufzugreifen und weiterzuentwickeln.

FlashProve unterscheidet sich von den Wasserzeichen, mit denen Anbieter wie Anthropic, OpenAI und Google KI-generierte Texte nach den Vorgaben der KI-Verordnung der EU kennzeichnen. Wasserzeichen sollen erkennbar machen, dass ein Text von einer KI stammt. FlashProve soll dagegen belegen, von welchem konkreten Modell eine Ausgabe stammt.

(red)