Meta trennt sich von KI-Sicherheitsteam von Virtue AI

Meta trennt sich von den Beschäftigten, die der Konzern Ende Juni vom KI-Sicherheits-Start-up Virtue AI übernommen hatte. Das berichtete das US-Medium Semafor am 2. Oktober. Meta-Sprecher Andy Stone bestätigte die Trennung und nannte unterschiedliche Arbeitsweisen als Grund.

„Leider hat die Vereinbarung nicht wie geplant funktioniert.“

Andy Stone, Meta-Sprecher

Die Meta Superintelligence Labs (MSL) blieben weiterhin auf KI-Sicherheit, Alignment und Risiken fortgeschrittener KI-Modelle ausgerichtet. Das Team reagierte zunächst nicht auf Anfragen von Semafor.

Drei Gründer im Juni eingestellt

Meta hatte am 25. Juni die Virtue-AI-Mitgründer Bo Li, Dawn Song und Sanmi Koyejo sowie weitere Beschäftigte eingestellt. Das Unternehmen selbst kaufte Meta nicht. Li und Song gingen zu den Meta Superintelligence Labs, Koyejo zur Forschungsabteilung FAIR. Song ist Professorin an der University of California, Berkeley, Li lehrt an der University of Illinois Urbana-Champaign, Koyejo an der Stanford University.

In einem internen Memo hatte Meta die Einstellungen damals laut Axios damit begründet, dass stabile und zuverlässige Systeme eine Grundvoraussetzung seien, wenn das Unternehmen KI-Produkte für Milliarden Nutzer ausliefere und immer leistungsfähigere Agenten entwickle.

Red Teaming und Schutzmechanismen

Virtue AI wurde 2024 gegründet und entwickelte Sicherheitswerkzeuge für Unternehmen, darunter automatisiertes Red Teaming, Schutzmechanismen für den laufenden Betrieb von KI-Systemen und Werkzeuge für die KI-Governance. Das Start-up hatte zuvor mit Anthropic, OpenAI und dem National Institute of Standards and Technology (NIST) des US-Handelsministeriums zusammengearbeitet.

Laut Semafor zeigt die Trennung, dass Meta seine Strategie für KI und KI-Sicherheit noch ausrichtet, während in Washington neue Forderungen nach Regulierung laut werden. Meta war zuletzt wegen Sicherheitsproblemen seines KI-Agenten Muse in die Kritik geraten.

(red)