KI-Governance versagt

KI als Sicherheitsrisiko: Warum Software-Lieferketten zunehmend ins Visier geraten

KI-Risiken

Die Absicherung moderner Software-Lieferketten entwickelt sich für Unternehmen immer stärker zu einer strategischen Herausforderung.

Der aktuelle „Software Supply Chain Security State of the Union Report 2026“ des Softwareunternehmens JFrog zeigt, dass Cyberkriminelle ihre Angriffe längst nicht mehr nur auf klassische Paketquellen konzentrieren. Zunehmend geraten auch KI-Modelle, Entwicklerwerkzeuge und automatisierte Agentensysteme in den Fokus.

Anzeige

Grundlage der Untersuchung sind laut JFrog Daten aus mehr als 18 Milliarden verwalteten Software-Artefakten sowie eine weltweite Befragung von IT-, Security- und DevOps-Verantwortlichen. Dabei zeichnet sich ein deutliches Bild ab: Viele Unternehmen überschätzen ihre Kontrolle über die Sicherheit ihrer Software- und KI-Infrastrukturen.

Schadsoftware breitet sich rasant aus

Besonders alarmierend ist der starke Anstieg manipulierte Softwarepakete. Allein bei npm-Paketen registrierte JFrog innerhalb eines Jahres einen Zuwachs von 451 Prozent. Insgesamt wurden über verschiedene Plattformen hinweg rund 177.000 neue Schadpakete identifiziert.

Ein Beispiel dafür ist die sogenannte „Qix“-Kampagne. Mit lediglich 25 kompromittierten Paketen konnten Angreifer mehr als 2,5 Millionen Downloads erreichen. Die Strategie dahinter: Vertrauen in etablierte Entwickler-Ökosysteme gezielt ausnutzen.

Anzeige

KI-Modelle und Agenten werden zur neuen Angriffsfläche

Erstmals untersucht der Report auch Risiken rund um KI-Agenten und Modellplattformen. Laut den Forschern wurden hunderte manipulierte KI-Modelle und Erweiterungen entdeckt, unter anderem auf Plattformen wie Hugging Face und OpenVSX.

Dabei beschränken sich Angriffe nicht mehr auf klassischen Quellcode. Stattdessen geraten zunehmend Werkzeuge ins Visier, die selbstständig Code schreiben, überprüfen oder ausrollen. Dadurch verschiebt sich die Bedrohung tiefer in die Entwicklungsprozesse hinein.

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.

Mehr Schwachstellen, aber nicht jede ist kritisch

2025 wurden weltweit über 48.000 neue Sicherheitslücken veröffentlicht – rund 20 Prozent mehr als im Vorjahr. Nach Einschätzung von JFrog spielt KI-generierter Code dabei eine wichtige Rolle, weil ältere Schwachstellenmuster erneut in moderne Anwendungen gelangen.

Besonders stark nahmen sogenannte Injection-Schwachstellen zu. Gleichzeitig warnen die Forscher jedoch davor, sich ausschließlich auf hohe CVSS-Werte zu verlassen. Zwei Drittel der analysierten Schwachstellen hätten in der Praxis nur geringe Relevanz. Entscheidend sei vielmehr, welche Lücken tatsächlich ausnutzbar und für die jeweilige Umgebung relevant sind.

Viele Unternehmen sind nur unzureichend vorbereitet

Der Bericht zeigt außerdem deutliche Defizite bei Schutzmaßnahmen. Nur etwa 40 Prozent der befragten Unternehmen verfügen über Mechanismen zur Erkennung bösartiger Pakete. Systeme zur Erkennung geleakter Zugangsdaten oder sogenannter Secrets sind sogar nur bei knapp einem Drittel aktiv.

Gleichzeitig steigt der Aufwand für Sicherheitsteams erheblich. Fast die Hälfte der Befragten gab an, inzwischen viel Zeit für die Kontrolle und Absicherung KI-generierten Codes aufzuwenden. KI reduziere Arbeitsaufwand also nicht automatisch, sondern verlagere ihn häufig in Richtung Kontrolle und Risikobewertung.

Governance oft nur auf dem Papier

Besonders kritisch bewertet JFrog die Lücke zwischen offizieller Governance und tatsächlicher Kontrolle. Zwar geben fast alle befragten Unternehmen an, über Richtlinien zur KI-Modellverwaltung zu verfügen. Dennoch beziehen viele Organisationen ihre Modelle aus Quellen, in denen bereits Schadsoftware entdeckt wurde.

Hinzu kommt: Ein Teil der Unternehmen überwacht weder Entwicklungsumgebungen noch sogenannte MCP-Server ausreichend – obwohl diese direkt in den Arbeitsabläufen der Entwickler integriert sind.

JFrog kommt zu dem Schluss, dass klassische Sicherheitsansätze nicht mehr ausreichen. Die zunehmende Automatisierung von Softwareentwicklung und KI-gestützten Prozessen mache eine kontinuierliche und zentrale Kontrolle sämtlicher Software-Bestandteile notwendig.

Der Report macht deutlich, dass sich Cyberangriffe immer früher in die Entwicklungsprozesse verlagern. Unternehmen müssen deshalb nicht nur fertige Anwendungen absichern, sondern auch die Werkzeuge, Modelle und automatisierten Systeme, die moderne Software überhaupt erst erzeugen.

Pauline Dornig

Pauline

Dornig

Online-Redakteurin

IT Verlag GmbH

Anzeige

Artikel zu diesem Thema

Weitere Artikel

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.