Überwachung von KI-Coding-Agents

Edamame stellt Sicherheitsplattform gegen Code-Drift vor

Ki-Agenten

Die Runtime-Verifikationsplattform von Edamame erkennt Abweichungen und Angriffe autonomer KI-Entwickler-Tools auf Host-Ebene in Echtzeit.

Die beschleunigte Integration von Systemen der künstlichen Intelligenz in den Softwareentwicklungsprozess prägt die technologische Landschaft im Mai 2026. Entwickler setzen zunehmend autonome KI-Coding-Agents ein, um Programmiercode in hoher Geschwindigkeit zu generieren und Entwicklungszyklen zu verkürzen. Diese weitreichende Automatisierung birgt jedoch neuartige operationelle Risiken, die von traditionellen Sicherheitswerkzeugen kaum erfasst werden.

Anzeige

Das französische Startup-Unternehmen Edamame Technologies hat vor diesem Hintergrund eine spezialisierte Sicherheitsplattform vorgestellt, die darauf abzielt, das Phänomen des sogenannten Code-Drifts oder Intent-Drifts in Echtzeit zu identifizieren und zu unterbinden. Unter Code-Drift versteht man in der Softwaretechnik eine strukturelle Abweichung des autonomen Agenten von der ursprünglich deklarierten Absicht des menschlichen Entwicklers. Der Agent beginnt eigenständig, Code-Segmente zu schreiben oder Systemaufrufe zu tätigen, die für den Programmierer unsichtbar bleiben, aber das Sicherheitsniveau des Zielsystems fundamental verändern.

Ursachen der Abweichungen und die Risiken für vertrauliche Daten

Diese Abweichungen können entweder organisch innerhalb des komplexen Kontextes des Sprachmodells entstehen oder durch gezielte Manipulationen von außen provoziert werden. Wenn Angreifer beispielsweise Repositories oder Dokumentationsdatenbanken mit schadhaftem Code manipulieren, füttern sie die KI-Agenten unbemerkt mit kompromittierten Mustern. Diese erzwungene Divergenz führt im schlimmsten Fall dazu, dass der Agent im Rahmen eines vermeintlich legitimen lokalen Prozesses vertrauliche Daten exfiltriert. Hierzu gehören API-Token, SSH-Schlüssel, Passwörter für Continuous-Integration-Systeme, proprietärer Quellcode oder Zugangsdaten für Krypto-Wallets von Entwicklern.

Herkömmliche Schutzprogramme auf Endpunkten schlagen in solchen Szenarien keinen Alarm, da der ausgeführte Prozess innerhalb der vertrauenswürdigen Entwicklungsumgebung des Programmierers stattfindet. Die Lösung von Edamame setzt daher direkt auf der Host-Ebene an und etabliert eine Laufzeit-Verifikationsschicht, die kontinuierlich Telemetriedaten des lokalen Betriebssystems analysiert, um bekannte Angriffsmuster und Verhaltensanomalien gegenwärtiger autonomer Agenten aufzudecken.

Anzeige

Sechs Module von Edamame

Die Plattform setzt sich aus sechs funktionalen Modulen zusammen, die eine lückenlose Überwachung der Entwickler-Arbeitsstationen gewährleisten sollen. Das Modul Edamame Security dient als lokaler Vertrauensanker, der den Sicherheitsstatus während der Ausführung von Agenten-Workloads überwacht. Die Komponente Edamame Posture fungiert als Kontrollschnittstelle für Server und Agenten-Hosts, um die selbstgehosteten Umgebungen vor dem Start der Agenten systematisch zu härten. Über dedizierte Agent-Integrations werden native Signale von weitverbreiteten Laufzeitumgebungen wie Cursor, Claude Desktop, Claude Code, Codex und OpenClaw direkt verarbeitet und mit den Telemetriedaten des Betriebssystems abgeglichen.

Die eigentliche Auswertung übernimmt die Divergence Engine, welche die deklarierte Absicht des Agenten mit den tatsächlichen Dateisystem-Zugriffen, Netzwerkverbindungen und Prozessaufrufen verknüpft. Ergänzt wird dies durch eine Engine zur Erkennung von Angriffsmustern, die laufende Aktivitäten auf bekannte Sicherheitslücken hin überprüft, sowie den Edamame Hub, der ungesicherte Agenten-Installationen innerhalb der gesamten Unternehmensflotte sichtbar macht und Beweise zentral bündelt.

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.

Angriff von KI-Agent frühzeitig erkennen

Die Relevanz dieser Technologie wird von Vertretern der Wissenschaft und Praxis gleichermaßen betont. Kave Salamatian, Professor für Informatik an der Universität Savoyen, erklärte, dass die Verifikation des Verhaltens autonomer Software-Agenten anhand expliziter Richtlinien direkt an den Systemgrenzen seit einem Jahrzehnt ein zentrales Thema der Forschung sei. Edamame liefere nun die operative Umsetzung dieser theoretischen Vorarbeiten für Arbeitsabläufe, die über eine nachträgliche Überwachung hinausgewachsen sind. Der Seriengründer und CEO von Edamame Technologies, Frank Lyonnet, erläuterte die veränderte Bedrohungslage im Jahr 2026:

„KI-Coding-Agents werden zur Ausführungsebene für die Softwarebereitstellung. Das ändert die Sicherheitsfrage von ‚Ist dieser Entwickler vertrauenswürdig?‘ zu ‚Blieb der Agent innerhalb der Absicht des Operators, auf diesem Host, unter diesem Sicherheitsstatus?‘ Edamame misst diese Divergenz anhand der Host-Telemetrie und alarmiert sofort, wenn die Beweise eine Abweichung der Absicht oder konkrete Angriffsmuster zeigen.“

Frank Lyonnet, Seriengründer und CEO von Edamame Technologies

Erkennung von Supply-Chain-Angriffen im Entwicklungsprozess

Ein wesentlicher Nebeneffekt der kontinuierlichen Host-Überwachung ist die zeitgleiche Identifizierung von Supply-Chain-Angriffen, die über die Paketmanager npm oder PyPI auf die Arbeitsstationen der Entwickler gelangen. Häufig missbrauchen Angreifer bösartige Pakete, wie den unlängst dokumentierten Axios-npm-Trojaner, um Systeme über automatisierte Skripte zu infiltrieren. Die Plattform von Edamame kann die Installation eines solchen schadhaften Pakets zwar nicht präventiv blockieren, stellt jedoch sicher, dass jede verdächtige Aktivität unmittelbar nach der Bereitstellung erkannt wird.

Sobald der Trojaner versucht, eine Verbindung zu seinem Befehlsserver aufzubauen, Zugangsdaten oder SSH-Schlüssel auszulesen und diese Daten zu exfiltrieren, schlägt das System basierend auf den telemetrischen Anomalien Alarm. Dies ermöglicht den internen Teams eine schnelle Reaktion und Schadensbegrenzung, bevor sich der Angreifer weiter im Netzwerk ausbreiten kann. Das Startup-Unternehmen wird finanziell von namhaften Führungskräften aus etablierten Sicherheits- und Automatisierungsunternehmen wie Netskope, UiPath und Sonar unterstützt.

Autorenbild Lisa Löw

Lisa

Löw

Junior Online-Redakteurin

IT-Verlag

Anzeige

Weitere Artikel

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.