Chinesisches Open-Source-KI-Modell GLM-5.2 schürt Angst vor günstigen Cyberangriffen

Das chinesische KI-Modell GLM-5.2 bewältigt Sicherheitsaufgaben auf US-Niveau. Experten warnen vor Missbrauch durch lokale Ausführung ohne Kontrollen.

Das chinesische Start-up z.AI, ehemals bekannt unter dem Namen Zhipu AI, hat ein neues Open-Source-KI-Modell namens GLM-5.2 veröffentlicht. Laut Untersuchungen der Analysefirmen Graphistry und Semgrep erreicht das Modell bei Cybersicherheitsaufgaben wie der Erkennung von Softwarefehlern und Sicherheitsuntersuchungen eine ähnliche Leistungsfähigkeit wie führende US-amerikanische Modelle von OpenAI, Google oder Anthropic. Die Betriebskosten liegen dabei laut Entwicklerangaben etwa um die Hälfte niedriger.

Lokale Ausführung von GLM-5.2 umgeht Cloud-Sicherheitsfilter

Im Gegensatz zu den kommerziellen Modellen der US-Konkurrenz, die über Cloud-Infrastrukturen laufen und Missbrauch durch integrierte Schutzmechanismen blockieren, kann GLM-5.2 direkt auf lokalen Computern betrieben werden. Dadurch entfällt die Überwachung durch einen Cloud-Anbieter. Berichten des Medienhauses Axios zufolge diskutieren Akteure in Hackerkreisen bereits über Methoden, um die verbleibenden Sicherheitsbeschränkungen des Modells vollständig zu entfernen. Sicherheitsforscher wiesen zudem nach, dass das Modell bereits durch einfache Eingabeaufforderungen dazu gebracht werden kann, interne Sicherheitsbarrieren zu ignorieren.

Risiken für die IT-Sicherheit und geopolitisches Wettrüsten

Die freie Verfügbarkeit des Modells ermöglicht es Kriminellen, unbemerkt mit KI-gestützten Angriffsmethoden zu experimentieren, etwa beim Verfassen von Phishing-E-Mails oder der automatisierten Suche nach Software-Schwachstellen. Fähigkeiten, die bisher spezialisierten Akteuren vorbehalten waren, werden somit breiter zugänglich. Gene Moody, Field CTO beim Cybersicherheitsunternehmen Action1, ordnet die Entwicklung ein: „Chinas Veröffentlichung sollte nicht als schockierender Durchbruch wahrgenommen werden.“ Zudem ergänzt er: „Sobald eine Fähigkeit demonstriert wurde, werden andere sie unweigerlich replizieren.“

Moody sieht in dem Vorstoß vor allem eine geopolitische Dynamik: „Die Sorge ist nicht wirklich, dass China ein wettbewerbsfähiges Cybersicherheitsmodell produziert hat.“ Die Technologie entwickle sich vielmehr zu einem strategischen Wettbewerbsfeld: „KI entwickelt sich rasant zu einer weiteren Arena für geopolitischen Wettbewerb statt für gemeinsame Verteidigung.“ Dies führe zu einer Eskalation im digitalen Raum:

„Jedes neue Modell stellt lediglich eine weitere Runde in einem Wettrüsten dar, bei dem niemand wirklich gewinnt.“

Gene Moody, Field CTO beim Cybersicherheitsunternehmen Action1

Für die Verteidigung im Cyberraum bedeutet dies, dass sowohl Angreifer als auch Verteidiger Zugang zu immer leistungsfähigeren Werkzeugen erhalten.

(red)