Cyberkriminelle nutzen zunehmend die Rechenkapazitäten und Modellzugänge von Unternehmen, um eigene KI-Aktivitäten zu finanzieren oder den Zugriff an andere Angreifer weiterzuverkaufen.
Google-Analyse
LLM-Jacking verursacht Millionenschäden
Die als „LLM-Jacking“ bezeichnete Methode kann innerhalb kurzer Zeit enorme Cloud-Kosten verursachen und zugleich neue Möglichkeiten für automatisierte Cyberangriffe eröffnen.
Eine Million Dollar durch missbrauchten Modellzugriff
Wie schnell sich der finanzielle Schaden summieren kann, zeigt eine Untersuchung von Mandiant und der Google Threat Intelligence Group (GTIG). In einem dokumentierten Fall entstanden innerhalb eines einzigen Tages unrechtmäßige Gebühren von mehr als 100.000 US-Dollar. Bis der Zugriff unterbunden werden konnte, hatte sich der Gesamtschaden auf rund eine Million US-Dollar erhöht.
Anders als beim klassischen Kryptojacking, bei dem sich eine missbräuchliche Nutzung häufig durch eine sinkende Systemleistung oder steigende Strom- und Cloud-Rechnungen bemerkbar macht, können die Kosten beim LLM-Jacking sprunghaft ansteigen. Die Angreifer nutzen dabei die vorhandenen Zugänge zu Sprachmodellen und deren Rechenkapazitäten, ohne dass die betroffenen Unternehmen dies zunächst bemerken.
Gestohlene Zugangsdaten als Einstieg
Für den Zugriff auf die KI-Infrastruktur setzen die Täter unter anderem auf gekaperte Sitzungen und gestohlene Anmeldedaten. Dazu gehören auch gültige Zugangsschlüssel, die versehentlich in öffentlich zugänglichen GitHub-Repositories hinterlegt wurden.
Nach erfolgreichem Eindringen können die Angreifer die erbeuteten Schlüssel bündeln und über illegale Proxy-Dienste weitervermitteln. Solche Angebote werden auf Untergrundplattformen teilweise zu stark reduzierten Preisen verkauft. Die Käufer erhalten dadurch Zugang zu leistungsfähigen Modellen, während die Kosten bei den ursprünglichen Kontoinhabern anfallen.
Hunderttausende API-Anfragen in wenigen Stunden
Die Untersuchung beschreibt verschiedene Vorgehensweisen. In einem Fall leitete ein sogenannter Token-Routing-Dienst Modellkosten von fast einer Million US-Dollar an ein betroffenes Unternehmen weiter. Gleichzeitig wurde anderen Interessenten ein weitgehend unbegrenzter Zugriff auf neue Modelle für rund 60 US-Dollar monatlich angeboten.
Ein weiterer Angreifer setzte innerhalb von weniger als acht Stunden mehr als 500.000 API-Anfragen ab. Um bestehende Nutzungslimits zu umgehen, erstellte und löschte er fortlaufend kurzlebige Servicekonten. Parallel dazu beobachtete er die Abrechnungsschnittstelle des Cloud-Anbieters, um die entstehenden Kosten im Blick zu behalten. Dieses Vorgehen erschwert es Unternehmen, den Missbrauch rechtzeitig anhand einzelner Konten oder Nutzungsspitzen zu erkennen.
Zugänge und Nutzung konsequent überwachen
Mandiant und GTIG empfehlen Unternehmen, ihre KI-Umgebungen stärker in die Sicherheitsüberwachung einzubeziehen. Dazu gehört zunächst, auch nicht genehmigte Anwendungen und Modellzugriffe zu identifizieren. Solche sogenannten Shadow LLMs können zusätzliche, bislang unberücksichtigte Angriffsflächen schaffen.
Darüber hinaus sollten API-Schlüssel nur die Berechtigungen erhalten, die für ihre jeweilige Aufgabe erforderlich sind. Automatisierte Prüfungen können helfen, versehentlich veröffentlichte Zugangsdaten aufzuspüren. Auch die Nutzung und Auslastung der Modelle sollte kontinuierlich überwacht werden. Ergänzend empfehlen die Sicherheitsexperten den Einsatz von Multi-Faktor-Authentifizierung und einen sorgfältigen Umgang mit sensiblen Informationen.
John Hultquist, Chefanalyst der Google Threat Intelligence Group, sieht in der Entwicklung eine zunehmende Skalierung von Angriffen: „Angreifer versuchen, sich einen Skalierungsvorteil gegenüber den Verteidigern zu verschaffen, und zwar durch agentenbasierte Tools und indem sie Token von ahnungslosen Dritten stehlen. Die Absicherung ihrer LLMs schützt nicht nur die Unternehmen selbst vor unkontrollierbaren Kosten, sondern auch alle Nutzer vor einer Flut kostengünstiger, autonomer Angriffe.“
Mit der zunehmenden Integration von Sprachmodellen in Produktionsumgebungen wird deren Absicherung damit auch zu einer Frage der Kostenkontrolle. Unternehmen müssen nachvollziehen können, wer auf ihre Modelle zugreift, welche Ressourcen genutzt werden und ob die Aktivitäten tatsächlich autorisiert sind.
(red/Mandiant)
