Nvidia und Tech-Konzerne gründen Open Secure AI Alliance

Nvidia und Partner gründen die Open Secure AI Alliance zur Entwicklung quelloffener Sicherheitswerkzeuge für KI-Systeme und KI-Agenten.

Nvidia hat gemeinsam mit zahlreichen Technologie- und Sicherheitsunternehmen am 27. Juli 2026 die Gründung der Open Secure AI Alliance bekannt gegeben. Die Initiative zielt darauf ab, quelloffene Werkzeuge, Modelle und Verfahren zur Absicherung von KI-Systemen und autonomen Agenten zu entwickeln und bereitzustellen. Das Projekt baut auf bestehenden Arbeiten der Akrites-Initiative der Linux Foundation sowie der OpenSSF-Community auf.

Zu den Gründungsmitgliedern gehören unter anderem Microsoft, IBM, Red Hat, Cisco, CrowdStrike, Palo Alto Networks, Salesforce, SAP, Siemens, Cloudflare, Databricks, HPE, Hugging Face, Palantir und SpaceXAI.

Spezifische Beiträge der Partnerunternehmen

Die beteiligten Unternehmen bringen verschiedene Open-Source-Projekte und Formate in das Bündnis ein:

• Nvidia stellt das Projekt NOOA bereit, das der Nachverfolgung, Prüfung und Auditierung des Verhaltens von KI-Agenten dient.
• HPE bringt das Zero-Trust-Identitäts-Framework SPIFFE/SPIRE zur kryptografischen Verifizierung von Agenten ein.
• Hugging Face überträgt das Speicherformat Safetensors an die PyTorch Foundation.
• IBM und Red Hat erweitern die Lieferkettensicherheit über das Projekt Lightwell für automatisierte Schwachstellenbehebung.
• Microsoft steuert MDASH bei, ein System zur Koordinierung von Agenten zur Identifizierung und Validierung von Software-Schwachstellen.
• SpaceXAI stellt das Entwicklungswerkzeug Grok Build quelloffen zur Verfügung und plant die Freigabe von Modellgewichten der Grok-Reihe.

Argumentation für offene Modelle in der Cyberabwehr

Das Bündnis versteht offene Modelle und Werkzeuge als Instrumente für die Verteidigung und warnt Aufsichtsbehörden vor pauschalen Einschränkungen offener KI-Systeme. Als Beispiel verweist Nvidia auf einen Sicherheitsvorfall unter Beteiligung von OpenAI und Hugging Face, bei dem das offene Modell GLM 5.2 genutzt wurde, um über 17.000 Aktionen zu analysieren und den Einbruch einzudämmen. Zur Sicherheitsstrategie erklärte Nvidia:

„Die richtige Antwort besteht nicht darin, Verteidiger von leistungsfähigen offenen Systemen auszuschließen. Es geht darum, Offenheit mit starken Schutzmaßnahmen, klaren Regeln gegen bösartigen Missbrauch, gründlicher Bewertung und schneller Behebung zu kombinieren. In der Cybersicherheit ist der sicherere Weg derjenige, der mehr Verteidigern die Möglichkeit gibt, die Systeme zu testen, zu überprüfen und zu stärken, auf die sich die Gesellschaft verlässt.“

Nvidia

Das Unternehmen führte zur Rolle unterschiedlicher Modellarchitekturen weiter aus: „Verteidiger brauchen sowohl fortschrittliche geschlossene als auch fortschrittliche offene Modelle, die zusammenarbeiten, damit sie das richtige System für die jeweilige Aufgabe wählen können und sicherstellen, dass Transparenz, Anpassung und souveräne Kontrolle überall dort verfügbar sind, wo Sicherheit es erfordert.“

(red)