Thought Leadership
Während Unternehmen in Europa ihre Technologie-Landschaften zunehmend vereinfachen und regulatorische Vorgaben wie der EU Cyber Resilience Act (CRA) umsetzen, entstehen gleichzeitig neue Risiken durch den rasanten Einsatz von Künstlicher Intelligenz in der Softwareentwicklung.
Zu diesem Ergebnis kommt der aktuelle Sicherheitsbericht von JFrog, der auf der Auswertung von Milliarden Software-Artefakten sowie einer internationalen Befragung von IT- und Sicherheitsexperten basiert.
Weniger Komplexität bedeutet nicht automatisch mehr Sicherheit
Der Cyber Resilience Act hat in vielen europäischen Unternehmen bereits sichtbare Veränderungen ausgelöst. Vor allem in Deutschland und Frankreich werden Technologie-Stacks gezielt reduziert. Deutlich weniger Unternehmen setzen heute auf eine große Anzahl unterschiedlicher Programmiersprachen als noch vor einem Jahr.
Die Vereinfachung der IT-Landschaften erleichtert zwar Verwaltung, Wartung und Kontrolle. Gleichzeitig wächst jedoch die Abhängigkeit von einzelnen zentralen Komponenten. Wird eine wichtige Bibliothek oder ein häufig genutztes Paket kompromittiert, können die Auswirkungen deutlich größer ausfallen als in stärker verteilten Umgebungen. Die Verringerung der Komplexität verschiebt Risiken daher eher, als dass sie diese vollständig beseitigt.
Europa setzt weiterhin stark auf manuelle Kontrollen
Die Untersuchung zeigt zudem, dass viele europäische Unternehmen bei der Absicherung ihrer Entwicklungsprozesse noch stark auf manuelle Prüfverfahren vertrauen. Automatisierte Kontrollen für KI-Systeme werden seltener eingesetzt als im weltweiten Durchschnitt.
Auch bei Compliance-Nachweisen gibt es Nachholbedarf. Viele Organisationen benötigen weiterhin mehrere Tage oder sogar Wochen, um regulatorische Anforderungen nachzuweisen. Dies deutet darauf hin, dass zahlreiche Sicherheits- und Compliance-Prozesse zwar formal existieren, jedoch noch nicht vollständig automatisiert wurden.
Explodierende Zahl von Sicherheitslücken und Schadpaketen
Besonders deutlich wird der Handlungsdruck beim Blick auf die Entwicklung von Schwachstellen und Schadsoftware. Im Jahr 2025 wurden weltweit mehr als 48.000 neue Sicherheitslücken registriert. Gleichzeitig stieg die Zahl bestimmter Angriffsarten deutlich an. Vor allem einfach ausnutzbare Schwachstellen wie SQL-Injection und Cross-Site-Scripting nahmen stark zu.
Hinzu kommt die wachsende Bedrohung durch manipulierte Open-Source-Pakete. Allein im npm-Ökosystem wurden über 170.000 schädliche Pakete entdeckt. Für Unternehmen, die auf standardisierte und zentralisierte Software-Komponenten setzen, erhöht sich damit das Risiko, dass eine einzelne kompromittierte Abhängigkeit zahlreiche Systeme gleichzeitig betrifft.
In Deutschland zeigen sich die Folgen auch bei den Freigabeprozessen: Neue Open-Source-Pakete werden häufig erst nach mehreren Tagen oder sogar Wochen genehmigt. Angesichts der Dynamik moderner Entwicklungsumgebungen stoßen solche manuellen Verfahren zunehmend an ihre Grenzen.
KI-Modelle werden zum Bestandteil der Lieferkette
Ein weiterer Schwerpunkt des Berichts ist die wachsende Bedeutung von KI-Modellen innerhalb der Softwareentwicklung. Plattformen wie Hugging Face verzeichneten im vergangenen Jahr einen enormen Zuwachs neuer Modelle. Darunter befanden sich erstmals auch nachweislich schädliche Varianten.
Viele Unternehmen integrieren inzwischen KI-Bibliotheken direkt in ihre Entwicklungsprozesse. Die bestehenden Sicherheitsmechanismen wurden jedoch ursprünglich für klassische Softwarepakete entwickelt und können die besonderen Risiken von KI-Modellen oft nur unzureichend erfassen.
Deutschland schneidet bei der Einführung spezieller Sicherheitsprüfungen für KI- und Machine-Learning-Modelle zwar besser ab als der europäische Durchschnitt. Dennoch bleiben erhebliche Lücken bei der Überwachung von KI-Systemen bestehen.
Angreifer nehmen Entwicklungswerkzeuge ins Visier
Die Sicherheitslage verändert sich nicht nur durch neue Technologien, sondern auch durch neue Angriffspunkte. Entwicklungsumgebungen, Build-Systeme und KI-gestützte Programmierhilfen rücken zunehmend in den Fokus von Cyberkriminellen.
Besonders kritisch ist die Situation bei der Überwachung von Ein- und Ausgaben von KI-Diensten. Ein erheblicher Teil der deutschen Unternehmen verfügt laut den Daten über keine ausreichenden Möglichkeiten, diese Aktivitäten zu kontrollieren. Damit entstehen potenzielle Angriffsflächen direkt dort, wo Software entwickelt wird.
Die Forscher identifizierten zudem zahlreiche schädliche Erweiterungen für Entwicklerplattformen sowie manipulierte Pakete für KI-Agenten. Ein besonders aufsehenerregender Fall war der Wurm „GlassWorm“, der sich selbstständig über Erweiterungen für Visual Studio Code verbreitete und zehntausende Systeme erreichte, bevor er entdeckt wurde.
Deutschland stark bei klassischen Schutzmaßnahmen
Trotz der neuen Risiken zeigt Deutschland bei traditionellen Sicherheitsmaßnahmen eine vergleichsweise starke Position. Sicherheitskontrollen in CI/CD-Pipelines sind weit verbreitet, ebenso der Einsatz statischer Codeanalysen.
Diese Maßnahmen schützen jedoch vor allem etablierte Bedrohungen innerhalb klassischer Entwicklungsprozesse. Die neuen Risiken rund um KI-gestützte Entwicklung, Erweiterungen von Entwicklungsumgebungen und externe KI-Dienste werden dadurch nur teilweise abgedeckt.
Compliance ersetzt keine Risikobewertung
Ein weiteres Ergebnis des Berichts verdeutlicht die Unterschiede zwischen formaler Compliance und tatsächlicher Sicherheit. Zwar verfügen nahezu alle befragten Unternehmen über definierte Prozesse für den Umgang mit KI-Modellen. Dennoch zeigt die Analyse, dass viele Organisationen Risiken nicht immer korrekt priorisieren.
Gleichzeitig werden grundlegende Sicherheitsmaßnahmen wie die Suche nach versehentlich veröffentlichten Zugangsdaten vergleichsweise selten durchgeführt. Dabei wurden im Untersuchungszeitraum tausende aktive Zugriffstoken in öffentlichen Software-Repositories entdeckt.
Auch bei der Erkennung unkontrollierter KI-Nutzung verlassen sich viele Unternehmen weiterhin auf manuelle Prüfungen. Dadurch bleiben potenzielle Sicherheitsprobleme häufig länger unentdeckt.
Neue Sicherheitsstrategie für das KI-Zeitalter erforderlich
Die Ergebnisse des JFrog-Berichts zeigen, dass regulatorische Vorgaben wie der Cyber Resilience Act wichtige Impulse für mehr Transparenz und Struktur in der Softwareentwicklung liefern. Gleichzeitig wird deutlich, dass die Bedrohungslage sich schneller verändert als viele bestehende Sicherheitskonzepte.
Während Unternehmen ihre Technologie-Stacks erfolgreich vereinfachen, verlagern sich die Risiken zunehmend in Entwicklungswerkzeuge, KI-Assistenten und automatisierte Programmierumgebungen. Künftige Sicherheitsstrategien müssen deshalb stärker auf automatisierte Kontrollen, die Überwachung von KI-Systemen sowie die frühzeitige Erkennung kompromittierter Pakete und Zugangsdaten ausgerichtet werden. Nur so lässt sich die moderne Software-Lieferkette wirksam absichern.
(red/JFrog)
