Das Modell mit 816 Milliarden Parametern ist für den lokalen Betrieb auf zwei Mac Studios mit je 512 GB Arbeitsspeicher optimiert.
Zwei Macs als ein System
Meta veröffentlicht Open-Weight-Modell Muse Spark Open
Bildquelle: Screenshot/Meta
Meta hat das KI-Modell Muse Spark Open veröffentlicht. Die Modellgewichte sind frei verfügbar. Meta bezeichnet es als das bislang leistungsfähigste Open-Weight-Modell aus den USA. Wenige Tage zuvor hatte der Konzern mit Muse Wonder ein geschlossenes, kostenpflichtiges Frontier-Modell vorgestellt.
Muse Spark Open hat 816 Milliarden Parameter, von denen pro Token 42 Milliarden aktiv sind. Das Kontextfenster umfasst eine Million Tokens. Ausgelegt ist das Modell auf Programmierung und agentische Aufgaben. Laut Meta liegen seine Stärken bei langen Aufgaben, mehrstufigem Schlussfolgern und Softwareentwicklung. Unabhängige Tests liegen noch nicht vor.
Zwei Mac Studios als ein System
Meta hat das Modell für den lokalen Betrieb auf zwei Mac Studio mit Apples Chip M5 Ultra und dem Framework MLX optimiert. Durch die Unified-Memory-Architektur kann die integrierte GPU des M5 Ultra laut Meta bis zu 512 GB Arbeitsspeicher pro Gerät nutzen. Zwei Geräte fassen damit das gesamte Modell. Die Speicherbandbreite des Chips von 1,2 TB/s reiche aus, um für jeden Token den benötigten Teil des Modells zu lesen.
„Das Ergebnis ist, dass sich zwei Mac Studios wie ein Supercomputer mit einem Terabyte gemeinsamem Arbeitsspeicher verhalten.“
Meta
Mark Zuckerberg bezeichnete die Kombination als besten Weg, ein leistungsfähiges Modell auf dem eigenen Schreibtisch zu betreiben.
Mac Studio mit 512 GB noch nicht erhältlich
Apple hat den Mac Studio mit 512 GB Arbeitsspeicher noch nicht auf den Markt gebracht. Er soll laut MacRumors noch im Oktober erscheinen. Die Version mit 256 GB kostet in den USA bereits mehr als 10.000 US-Dollar.
Die Zahl leistungsfähiger Open-Weight-Modelle ist zuletzt gestiegen. Am 5. Oktober stellte das US-Unternehmen Reflection AI sein Modell Beam vor, am 6. Oktober das französische Unternehmen Mistral sein Modell Large 4 mit einer Billion Parametern. Das chinesische Modell GLM-5.3 von Z.ai gilt laut dem US-Normungsinstitut NIST als das bislang leistungsfähigste Open-Weight-Modell für Cyberaufgaben.
(red)
