OpenAI startet Daybreak Red Team und Defense Factory

OpenAI hat auf seiner Veranstaltung „Cyber at the Frontier“ zwei neue Sicherheitsprodukte vorgestellt: Daybreak Red Team und Daybreak Defense Factory. Beide gehören zu Daybreak, OpenAIs Plattform für Cybersicherheit, die sich an geprüfte Verteidiger richtet. Sie sollen Sicherheitslücken in Webanwendungen und Code finden, bestätigen und Korrekturen vorbereiten.

Agenten als Penetrationstester

Daybreak Red Team ist ein Dienst für Penetrationstests, bei dem mehrere koordinierte KI-Agenten Webanwendungen anhand von Quellcode und Anwendungskontext untersuchen. Sie sollen Angriffswege durchspielen, Meldungen aus Scannern und Bug-Bounty-Programmen überprüfen und testen, ob ein Patch einen Exploit tatsächlich verhindert. Red Team steht zunächst ausgewählten Kunden im Early Access zur Verfügung, Interessenten können sich auf eine Warteliste setzen lassen. Eine Zusage ist damit nicht verbunden.

„Red Team ebnet uns den Weg, den Zugang zu unseren Frontier-Cyber-Modellen im Laufe der Zeit drastisch auszuweiten.“
Johannes Landgraf, bei OpenAI für Cybersicherheit zuständig

Vom Fund zum Pull Request

Daybreak Defense Factory übernimmt die Behebung. Die Agenten untersuchen Funde aus bestehenden Sicherheitswerkzeugen und aus Red Team, verfolgen Schwachstellen durch den Code, versuchen sie nach Möglichkeit in einer isolierten Umgebung nachzustellen und bereiten einen Patch samt Test vor. Das Ergebnis ist ein Entwurf für einen Pull Request, den Entwickler prüfen und freigeben müssen. Patches spielt das System nicht selbstständig ein. Defense Factory ist als Forschungsvorschau über das Daybreak-Plugin in ChatGPT und Codex verfügbar und arbeitet mit verbundenen GitHub-Repositories, derzeit nur über persönliche Konten. Laut The Register basieren die Agenten auf OpenAIs Modell GPT-6 Cyber, das das Unternehmen am 5. November vorgestellt hatte.

OpenAI-Präsident Greg Brockman erklärte auf der Veranstaltung, die Sicherheit von Organisationen hänge zunehmend davon ab, welches Frontier-Modell sie für die Verteidigung wählen und wie sie es einsetzen. Preise und einen Zeitplan für die allgemeine Verfügbarkeit nannte OpenAI nicht.

Wettbewerb um KI-gestützte Abwehr

Auch andere Anbieter bauen KI-gestützte Werkzeuge zur Behebung von Lücken aus. Google hat seinen Sicherheitsagenten CodeMender um Angriffssimulationen in Sandboxen erweitert, Anthropic seinen Dienst Claude Security um eine fortlaufende Prüfung von Code. OpenAI hatte mit GPT-6 Cyber nach eigenen Angaben 81 schwere Lücken in Firefox und 948 Lücken im Linux-Kernel gefunden.

(red)