Thought Leadership
Eine aktuelle Analyse von Trend Micro zeigt gravierende Sicherheitsmängel in der Infrastruktur künstlicher Intelligenz auf. Tausende von KI-Servern sind ohne Schutz öffentlich erreichbar – ein gefundenes Fressen für Cyberkriminelle.
KI-Infrastruktur im Visier von Angreifern
Trend Micro, ein Anbieter für Cybersicherheitslösungen, hat in einem aktuellen Report alarmierende Schwächen in der Sicherheit künstlicher Intelligenz aufgedeckt. Im “Trend State of AI Security Report” fordert das Unternehmen dringend ein Umdenken bei der Entwicklung und dem Betrieb von KI-Systemen. Laut Bericht drohen bei mangelhafter Absicherung reale Gefahren durch Datendiebstahl, Datenmanipulation, Erpressung und gezielte Angriffe.
Kritische Schwachstellen in zentralen Komponenten
Ein zentrales Problem liegt in den vielen Spezialkomponenten, die in KI-Umgebungen verwendet werden. Diese enthalten Schwachstellen, wie sie auch aus klassischer Software bekannt sind. Trend Micro nennt konkrete Beispiele wie ChromaDB, Redis oder das NVIDIA Container Toolkit, in denen teils unbekannte (Zero-Day) Sicherheitslücken entdeckt wurden.
Tausende KI-Server unbeabsichtigt öffentlich zugänglich
Besonders brisant: Trend Micro fand weltweit über 200 öffentlich erreichbare ChromaDB-Instanzen, rund 2.000 Redis-Server und sogar mehr als 10.000 ungeschützte Ollama-Server. Diese Systeme sind ohne Authentifizierung aus dem Internet zugänglich – ein massives Risiko, das meist durch überhastete Entwicklungsprozesse oder Fehlkonfigurationen entsteht.
Unsichere Open-Source-Komponenten
Viele KI-Systeme setzen auf Open-Source-Bibliotheken, die zwar flexibel sind, aber oft versteckte Sicherheitslücken enthalten. So wurde beim Pwn2Own-Wettbewerb in Berlin ein Exploit in Redis gefunden, der auf veralteten Lua-Code zurückging. Solche Schwachstellen lassen sich im Produktivbetrieb nur schwer entdecken und bergen großes Risiko.
Container: Angriffsfläche auch in der KI
Da viele KI-Modelle containerisiert laufen, sind sie denselben Bedrohungen ausgesetzt wie klassische Cloud-Umgebungen. Forscher entdeckten beim Pwn2Own-Wettbewerb eine Sicherheitslücke im NVIDIA Container Toolkit. Maßnahmen wie Input-Validierung und Monitoring des Laufzeitverhaltens könnten hier Abhilfe schaffen.
Sicherheit darf nicht nachgelagert sein
„KI könnte für Unternehmen weltweit die Chance des Jahrhunderts sein. Wer jedoch zu schnell vorprescht, ohne angemessene Sicherheitsvorkehrungen zu treffen, kann am Ende mehr Schaden als Nutzen anrichten“, warnt Udo Schneider, Governance, Risk & Compliance Lead Europe bei Trend Micro. „Wie unser Bericht zeigt, wird schon jetzt ein Großteil der KI-Infrastruktur aus ungesicherten bzw. ungepatchten Komponenten aufgebaut, was Angreifern Tür und Tor öffnet.“
Empfehlungen für sichere KI-Systeme
Um die Bedrohungslage einzudämmen, rät Trend Micro zu mehreren konkreten Maßnahmen:
- Lückenloses Patch-Management und regelmäßige Schwachstellenscans
- Detailliertes Inventar aller eingesetzten Software-Bausteine, auch externer Herkunft
- Containerhärtung durch minimalistische Basisimages und Security-Tools zur Laufzeit
- Regelmäßige Konfigurationsprüfungen, um Fehlöffnungen ins Internet zu verhindern
Sicherheit sollte von Anfang an integraler Bestandteil jeder KI-Strategie sein – denn nur so lässt sich das enorme Potenzial der Technologie auch verantwortungsvoll nutzen.
Weitere Informationen:
Mehr dazu, wie KI-Systeme geschützt, angegriffen und genutzt werden, gibt es hier im State of AI Security Report zum 1. Halbjahr 2025 von Trend Micro.
(vp/Trends Micro)
