Meta zahlt 1,2 Millionen Dollar Prämien für Muse-Lücken

Meta hat für Sicherheitslücken in seinem KI-Agenten Muse bislang rund 1,2 Millionen US-Dollar an Prämien gezahlt. Das teilte David Singleton von den Meta Superintelligence Labs in einem Blogbeitrag und auf X mit. Das Prämienprogramm lief seit April zunächst privat und ist seit dem Start von Muse am 8. September öffentlich. Von mehr als 630 Meldungen waren 64 gültig. Muse handelt im Auftrag von Nutzern in deren E-Mail-, Kalender-, Messaging- und anderen Konten. Jeder Nutzer erhält für seinen Agenten eine eigene virtuelle Maschine.

300.000 Dollar für Lücke vor dem Start

Die höchste Prämie von 300.000 Dollar zahlte Meta für eine Lücke, die ein Forscher vier Monate vor dem Start fand. Sie legte auf internen virtuellen Maschinen, die Meta-Beschäftigte zum Testen von Muse nutzten, Unterhaltungen und Authentifizierungstokens offen. Ursache war eine fehlerhafte Vertrauensprüfung anhand von Proxy-Headern. Bei einer Migration des Systems war eine zweite Proxy-Ebene hinzugekommen. Meta nahm den Dienst vom Netz, behob den Fehler und behandelt den lokalen Rechner seitdem nicht mehr als vertrauenswürdig.

Gefälschte Statusmeldungen und Filterumgehung

90.000 Dollar zahlte Meta für eine präparierte Webseite, die Statusmeldungen des Browsing-Werkzeugs von Muse nachahmte, wenn der Agent sie zusammenfassen sollte. So ließ sich der Agent zu unerwünschten Aktionen bringen. Weitere Meldungen betrafen die Umgehung eines Filters, der Einmalcodes in E-Mails ausblenden soll, eine Lücke bei der Verarbeitung von Links in der Android-App, über die sich Zugangsdaten aus privilegierten Web-Ansichten abgreifen ließen, sowie eine Lücke in der Mac-App.

Über diese konnte ein Angreifer mit Zugriff auf den Rechner die automatische Aktualisierung kapern und Code mit den Rechten der App ausführen. Dafür gab es 1.000 Dollar. Meta hat nach eigenen Angaben zudem Erkennungssignale und Klassifikatoren für schädliche Werkzeugausgaben ergänzt.

„Unser Prämienprogramm ist immer offen und zahlt bis zu 300.000 Dollar pro Meldung, einschließlich bis zu 130.000 Dollar für eine Prompt Injection gegen einen einzelnen Nutzer.”
David Singleton von den Meta Superintelligence Labs

Spenden Forscher ihre Prämie für wohltätige Zwecke, verdoppelt Meta den Betrag.

Muse stand seit dem Start mehrfach in der Kritik. Im Oktober hatte das Sicherheitsunternehmen Claroc rund 6.800 Freigabelinks gefunden, die sich über öffentliche DNS-Einträge auffinden ließen. Meta setzte die Teilen-Funktion vorübergehend aus. Laut Singleton betraf der Fehler nur geteilte Muse-Inhalte, nicht geteilte Chats. Links aus der Zeit vor der Korrektur wurden auf neue Adressen umgestellt.

(red)