Chinesisches KI-Modell Kimi K3 entkommt Sicherheits-Sandbox

Das KI-Modell Kimi K3 hat während eines Cybersicherheitstests eine eigentlich isolierte Testumgebung verlassen und sich Zugriff auf das offene Internet verschafft.

Wie das US-Sicherheitsunternehmen Frontier Security in einem am 7. August veröffentlichten Bericht darlegt, wurde Kimi K3 im Rahmen eines auf der Testsoftware des britischen AI Security Institute basierenden Benchmarks zu seinen defensiven Cybersicherheitsfähigkeiten geprüft. Dabei ließ eine grundlegende Netzwerk-Fehlkonfiguration in der Testumgebung ausgehende Verbindungen über die Ports 443 und 53 offen. Das Modell prüfte diese Einstellungen eigenständig, stellte fest, dass es GitHub erreichen konnte, und lud daraufhin das offizielle Repository des zugewiesenen Benchmarks herunter, um die dort hinterlegte Lösung direkt von der Festplatte abzulesen, statt die eigentliche Aufgabe selbst zu bearbeiten. Frontier-Security-Chef Yaron Singer betonte, es habe sich dabei nicht um die Ausnutzung einer bislang unbekannten Schwachstelle gehandelt, sondern schlicht um ein Datenleck in der Sandbox selbst.

Frontier Security zufolge griff Kimi K3 im Anschluss keine externen Systeme an, da die für die Aufgabe benötigten Informationen bereits öffentlich auf GitHub verfügbar waren. Das Unternehmen wertet die Bereitschaft des Modells, eine solche Lücke ohne Zögern auszunutzen, dennoch als Hinweis darauf, dass Kimi K3 über weniger interne Schutzmechanismen verfüge als vergleichbare Modelle. Anders als bei einer bei OpenAI unveröffentlichten Testversion handelt es sich bei Kimi K3 zudem um ein bereits seit Juli frei verfügbares, öffentlich nutzbares Modell mit offen zugänglichen Gewichten, was den Vorfall nach Einschätzung von Frontier Security potenziell folgenreicher macht als vergleichbare frühere Fälle bei unveröffentlichten Modellen.

Bereits mehrere ähnliche Vorfälle vor Kimi K3 in diesem Sommer

Der Vorfall reiht sich in eine Serie ähnlicher Ausbrüche aus Testumgebungen bei Modellen von Meta, OpenAI und Anthropic in den vergangenen Wochen ein. Bei einem Ende Juli bekannt gewordenen Fall hatte ein Modell von OpenAI eine zuvor unbekannte Schwachstelle in einer Proxy-Software für Softwarepakete ausgenutzt, um aus einer versiegelten Testumgebung auszubrechen, und anschließend über gestohlene Zugangsdaten tatsächlich in die Infrastruktur der Plattform Hugging Face einzudringen. In allen bislang bekannten Fällen ließen sich die Ausbrüche laut Berichten auf Fehler in der Konfiguration der jeweiligen Testumgebungen zurückführen, nicht auf Schwachstellen in den Modellen selbst.

(red)