Zweisprachiges Mixture-of-Experts-Modell

Aleph Alpha veröffentlicht Open-Weight-Modell Kolibri

Das Heidelberger KI-Unternehmen hat ein deutsch-englisches Sprachmodell für Verwaltung und Industrie veröffentlicht. Es läuft auch lokal.

Aleph Alpha veröffentlicht Open-Weight-Modell Kolibri
Bildquelle: Casimiro PT/Shutterstock.com

Das Heidelberger KI-Unternehmen Aleph Alpha hat am 3. Oktober 2026 das Sprachmodell Kolibri veröffentlicht. Es ist für den Einsatz in regulierten Bereichen wie öffentlicher Verwaltung, Industrie sowie Luft- und Raumfahrt ausgelegt. Das Open-Weight-Modell steht auf Hugging Face unter der Apache-2.0-Lizenz zum Download bereit. Für den Betrieb wird das Paket Aleph-Alpha-inference benötigt, das ein Plugin für die Inferenz-Software vLLM enthält.

„Wir sind mit der Überzeugung ins Jahr gestartet, dass Europa seine eigene souveräne KI braucht. Von Grund auf in Deutschland gebaut und auf Infrastruktur in Europa, speziell für unsere Kunden.“

Alpeh Alpha

https://twitter.com/Aleph__Alpha/status/2106989436839858676?s=20

78 Milliarden Parameter, 3,46 Milliarden aktiv

Kolibri ist ein zweisprachiges Mixture-of-Experts-Modell für Deutsch und Englisch. Es ist in mehrere Teilnetze, sogenannte Experten, aufgeteilt. Von insgesamt 78,1 Milliarden Parametern sind pro Token 3,46 Milliarden aktiv. Laut Aleph Alpha lässt sich das Modell dadurch lokal betreiben, ohne interne Daten an externe Inferenzdienste zu senden. 21,3 Prozent der Tokens aus dem Vortraining sind deutschsprachig.

Trainiert wurde Kolibri auf Infrastruktur in Deutschland und Finnland. Nach Angaben des Unternehmens erfüllt es die Anforderungen der EU-KI-Verordnung, des Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck und der DSGVO. Das Modell wurde zudem darauf trainiert, mit „Ich weiß es nicht“ zu antworten, wenn es keine Antwort geben kann, um erfundene Antworten zu reduzieren.

Anzeige

Vergleich mit Qwen, Mistral und Nvidia

Aleph Alpha hat Kolibri mit drei anderen Open-Weight-Modellen verglichen, die bis zu viermal so viele aktive Parameter haben: Qwen 3.6-35B-A3B von Alibaba, Mistral Small 4 119B-A6B und Nemotron 3 Super 120B-A12B von Nvidia. Nach Unternehmensangaben schnitt Kolibri beim mathematischen Schlussfolgern auf Deutsch und Englisch (AIME 2025 und 2026), bei komplexem Schlussfolgern (GPQA Diamond) und beim Programmieren (LiveCodeBench v6) besser ab als alle drei. Auch bei Tests zur Suche und Navigation in großen Informationsmengen lag es vorn. Beim Verständnis langer Kontexte und beim Abruf von Informationen daraus lag Qwen 3.6-35B-A3B vor Kolibri. Unabhängige Tests liegen noch nicht vor.

Weitere europäische Modelle

Im Juli hatte das deutsche Forschungskonsortium Soofi das Open-Source-Modell Soofi S veröffentlicht. In Dänemark haben die University of Southern Denmark und das Unternehmen Ordbogen das Modell Mimir mit einer Milliarde Parametern entwickelt.

(red)

Anzeige
Anzeige