JFrog verankert Sicherheit in der KI-gestützten Arbeitswelt

KI-Agenten entwickeln und verändern Software zunehmend selbstständig und greifen dabei eigenständig auf Pakete, Plugins, Modelle und andere digitale Ressourcen zu.

JFrog will Unternehmen deshalb dabei unterstützen, diese agentischen Arbeitsabläufe abzusichern und sämtliche von Menschen oder KI erzeugten Software-Artefakte zentral zu kontrollieren.

Wenn Software nicht mehr nur von Menschen entwickelt wird

Klassische DevSecOps-Prozesse gehen vielfach davon aus, dass ein Entwickler Entscheidungen über Abhängigkeiten trifft, Komponenten auswählt und Sicherheitsprüfungen durchläuft. Bei autonomen Coding-Agenten funktioniert dieses Modell nur noch eingeschränkt.

KI-Agenten können selbstständig nach Abhängigkeiten suchen, Pakete installieren und unterschiedliche KI-Ressourcen in ihre Arbeitsabläufe integrieren. Dazu gehören neben klassischen Softwarepaketen beispielsweise Skills, Kontextdateien, Plugins oder MCP-Server. Die Zahl der möglichen Quellen und Abhängigkeiten wächst damit deutlich.

JFrog-Mitgründer und CTO Yoav Landman sieht darin einen grundlegenden Wandel für die Absicherung von Software-Lieferketten. Die bisherigen Sicherheitsmechanismen seien unter der Annahme entwickelt worden, dass ein Mensch an der Tastatur sitzt. Agenten würden dagegen nicht auf eine manuelle Prüfung warten, bevor sie ihre Aufgaben ausführen.

Mehr Agenten bedeuten auch mehr unkontrollierte Abhängigkeiten

Der Einsatz von KI-Agenten steht in Unternehmen noch am Anfang, dürfte aber deutlich zunehmen. Nach Angaben von Gartner nutzen derzeit 17 Prozent der Unternehmen entsprechende Systeme. Mehr als 60 Prozent planen demnach, agentische KI innerhalb der kommenden zwei Jahre einzusetzen.

Mit der zunehmenden Verbreitung steigen allerdings auch die Sicherheitsanforderungen. Gartner erwartet gleichzeitig, dass ein erheblicher Teil der Projekte im Bereich agentischer KI bis Ende 2027 wieder eingestellt werden könnte. Als mögliche Gründe gelten unter anderem hohe Kosten, ein unklarer wirtschaftlicher Nutzen und unzureichende Risikokontrollen.

Ein Problem liegt dabei in der Autonomie der Systeme. Ein Agent kann beispielsweise selbst entscheiden, welche Bibliothek oder welches Plugin für eine Aufgabe benötigt wird. Wird die Quelle nicht ausreichend kontrolliert, kann eine manipulierte Komponente bereits während der Entwicklung in die Software-Lieferkette gelangen.

JFrog setzt auf einen zentralen Kontrollpunkt

JFrog erweitert seine Software-Supply-Chain-Plattform deshalb um Funktionen, die speziell auf agentische Entwicklungsprozesse ausgerichtet sind. Das Unternehmen fasst den Ansatz unter dem Begriff AgentSecOps zusammen.

Die grundlegende Idee besteht darin, nicht nur fertige Software auf Schwachstellen zu prüfen, sondern auch die Ressourcen zu kontrollieren, die KI-Agenten während ihrer Arbeit verwenden. Modelle, Plugins, Skills, Pakete und weitere Abhängigkeiten sollen aus einer überwachten und nachvollziehbaren Quelle stammen. Eine zentrale Rolle spielt dabei Artifactory. Über die Plattform lassen sich Abhängigkeiten verwalten, versionieren und auf ihre Vertrauenswürdigkeit prüfen.

KI-Assets bereits vor der Nutzung überprüfen

Zu den neuen Funktionen gehört das AI Asset Scanning. Damit sollen KI-Modelle, MCPs, Skills und Plugins analysiert und riskante Inhalte blockiert werden können.

Die Prüfung beschränkt sich dabei nicht ausschließlich auf klassische Binärdateien. Auch Markdown-Dateien, Skripte und Instruktionsdateien können untersucht werden. Dadurch soll verhindert werden, dass manipulierte Anweisungen oder schädliche Inhalte überhaupt auf die Systeme von Entwicklern gelangen.

Mit Agent Guard kommt zudem eine Richtlinienkontrolle für verschiedene Entwicklungsumgebungen hinzu. Unternehmen können festlegen, welche KI-Assets verwendet werden dürfen und welche nicht. Unterstützt werden unter anderem Claude Code, Cursor und VS Code.

Eigene Registry für Agenten-Komponenten

Eine weitere Erweiterung ist die Agent Package Manager Registry. Sie basiert auf dem von Microsoft vorangetriebenen APM-Standard und soll Unternehmen ermöglichen, KI-Ressourcen wie Prompts, Skills und MCP-Server ähnlich wie herkömmliche Softwarepakete zu verwalten. Dabei geht es insbesondere um die Nachvollziehbarkeit von Abhängigkeiten und Versionen. Festgelegte Versionen sollen verhindern, dass sich Komponenten unbemerkt verändern und dadurch sogenannte Drift-Probleme entstehen.

Auch Plugins für Coding-Agenten sollen zentral kontrolliert werden können. Die Agent Plugins Registry soll dafür sorgen, dass nur zuvor geprüfte und freigegebene Erweiterungen in den jeweiligen Entwicklungsumgebungen eingesetzt werden.

Sicherheitsrichtlinien direkt in den Agenten-Workflow

JFrog will die Kontrolle nicht erst nach der Ausführung eines Agenten ansetzen. Mit einem eigenen Agent Plugin sollen Sicherheits- und Unternehmensrichtlinien direkt in die Arbeitsabläufe der KI-Systeme eingebunden werden. Darüber hinaus soll die Agent Package Resolution dafür sorgen, dass Abhängigkeiten über eine kontrollierte Quelle wie Artifactory bezogen werden. Der Agent wird dabei authentifiziert und erhält einen definierten Weg zu geprüften Softwarekomponenten. Zusätzliche Kontrolle ist auf Netzwerkebene vorgesehen. Der JFrog Traffic Controller kann zusammen mit SASE-Diensten von Anbietern wie Cloudflare, Netskope oder Zscaler den direkten Zugriff auf öffentliche Registries unterbinden. Stattdessen wird der Datenverkehr über die kontrollierte Unternehmensinfrastruktur geleitet.

Sicherheitskontrolle soll Entwicklung nicht ausbremsen

Für Unternehmen entsteht damit ein Spannungsfeld: KI-Agenten sollen möglichst autonom arbeiten, gleichzeitig dürfen sie keine unkontrollierten Komponenten in Entwicklungsumgebungen einschleusen. JFrog verfolgt deshalb einen Ansatz, bei dem Sicherheitsprüfungen möglichst früh und automatisch in die Lieferkette integriert werden. Software, die von Menschen entwickelt oder von KI-Agenten erzeugt wurde, soll dabei innerhalb eines gemeinsamen Systems verwaltet werden.

Das Ziel ist weniger eine zusätzliche manuelle Kontrollstufe als eine automatisierte Absicherung der Prozesse. Sicherheitsrichtlinien sollen greifen, während Agenten arbeiten, ohne dass Entwickler jeden einzelnen Schritt überwachen müssen. Damit verschiebt sich auch der Fokus klassischer Software-Sicherheit: Nicht mehr nur die fertige Anwendung muss geschützt werden. Entscheidend wird zunehmend die Frage, welchen Komponenten und digitalen Ressourcen ein autonom handelndes System während seiner Arbeit vertrauen darf.

(red/JFrog)