Continuous Learning

Was nach den großen KI-Modellen kommt

KI-Zukunft

Über die nächste KI-Generation entscheidet, wie gut sie lernt, während sie arbeitet. In dynamischen Märkten zählt vor allem, wie schnell sich ein System an neue Bedingungen anpasst.

Ein Fisch würde keinen einzigen der gängigen KI-Benchmarks bestehen. Trotzdem behauptet er sich in einer Umgebung, die sich nie wiederholt, und lernt sein Leben lang dazu; sein Nervensystem kommt dabei mit Bruchteilen eines Watts aus. Wo heutige KI-Modelle nach dem Training stehen bleiben, passt er sich weiter an.

Anzeige

Sprachmodelle sind für etwas anderes gebaut. Aber das Fisch-Beispiel zeigt, was die Debatte fast immer übersieht: Größe und Anpassungsfähigkeit sind zwei verschiedene Achsen. Ein größeres Modell speichert mehr Muster. Anpassungsfähiger wird es dadurch nicht.

Trotzdem hält sich die Annahme, dass mehr Daten und mehr Rechenleistung von allein zu besseren Entscheidungen führen. Das halte ich für die gefährlichste Fehleinschätzung der Branche. Denn Größe löst ein anderes Problem als das, an dem es vielen Unternehmen tatsächlich fehlt: Anpassungsfähigkeit.

Statisch oder dynamisch?

Heutige KI ist statisch. Ein Sprachmodell wird einmal trainiert und dann eingefroren; was danach in der Welt geschieht, erreicht es nur über Umwege wie Suchanfragen oder Kontextfenster. Für Sprache funktioniert das. Die offene Frage liegt woanders: wie ein System dazulernt, während es arbeitet. Das ist keine Anwendungsfrage, sondern die Grundlagenfrage der KI, und sie ist seit Jahrzehnten ungelöst.

Anzeige

Entscheiden wird sie sich in der operativen Welt: in Stromnetzen, Lieferketten, Industrieanlagen und auf den Finanzmärkten. Dort ändern sich die Spielregeln laufend, dort scheitert ein eingefrorenes Modell messbar, und dort lässt sich Anpassungsfähigkeit prüfen, statt sie zu behaupten.

Warum nicht einfach Deep Learning?

Im Deep Learning stecken Wissen und Berechnung in denselben Parametern; jedes Weiterlernen kann überschreiben, was das Netz bereits kann. Dieses katastrophale Vergessen ist der Grund, warum neuronale Netze nach dem Training eingefroren werden.

Wir setzen an einer anderen Stelle an. Bei uns liegt das Wissen in einem expliziten Gedächtnis, getrennt von der Berechnung, die darauf zugreift. Neues kommt hinzu, ohne Bestehendes zu überschreiben. Jede Erfahrung verändert das System selbst.

Das Vorbild ist biologisch und lässt sich benennen. Das Gehirn schützt gefestigte Verbindungen selektiv, statt bei jeder Erfahrung global zu überschreiben. Es lernt mit variabler Intensität, gesteuert unter anderem von Überraschung und Relevanz. Und es spielt Erfahrungen in Ruhephasen erneut durch und ordnet Neues in Vorhandenes ein. Diese drei Prinzipien sind der Grund, warum ein Gehirn ein Leben lang dazulernt und ein trainiertes Netz nicht.

Dazu kommt eine zweite Eigenschaft. Ein heutiges Modell wird aufgerufen und antwortet; zwischen zwei Aufrufen existiert für es keine Zeit. Unser System läuft. Es nimmt seine Umgebung als ununterbrochenen Strom wahr und trägt einen inneren Zustand durch die Zeit. Daraus entsteht ein geschlossener Kreis: Es sagt voraus, entscheidet, handelt und lernt aus den Konsequenzen. Ohne Handlung gäbe es keine Konsequenz, aus der sich lernen ließe.

Wir nennen diese Kategorie continuous AI, und das continuous ist doppelt gemeint. Solche Systeme lernen ununterbrochen weiter, statt bei jedem Wandel neu trainiert zu werden, und sie nehmen ununterbrochen wahr, statt zwischen zwei Anfragen stillzustehen. Das eine ist ohne das andere nicht zu haben.

Die Idee ist nicht neu. Neu ist der Ausgangspunkt. Katastrophales Vergessen ist seit den späten Achtzigern beschrieben, und Gegenmittel wie Regularisierung oder Replay-Puffer bauen kontinuierliches Lernen nachträglich in Architekturen ein, die dafür nie vorgesehen waren. Wir bauen die Architektur von vornherein um das Gedächtnis herum. Gelöst haben wir ein seit Jahrzehnten offenes Problem damit nicht. Wir zeigen, dass der Ansatz in realen Umgebungen stabil lernt, und prüfen das laufend.

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.

Ein erster Beleg aus dem Strommarkt

Das System prognostiziert Day-Ahead-Strompreise für die deutsch-luxemburgische Gebotszone. In einem Backtest über knapp sechs Jahre, 2.097 Handelstage, verglichen wir es mit TabPFN, einem aktuellen Referenzverfahren für tabellarische Prognosen.

Über den gesamten Zeitraum erzielte das lernende System einen rund 14 Prozent höheren kumulierten Handelsgewinn. TabPFN diente als starke statische Referenz, ein reines Prognoseverfahren, dessen Werte unser Handelssimulator verarbeitet. Der Vergleich fiel bewusst zu TabPFNs Gunsten aus: Es erhielt einen späteren Prognosezeitpunkt und denselben Datensatz. Gemessen wird hier die Architektur, nicht ein fertiges Trading-Produkt.

Der Strommarkt taugt als Prüfstand, weil er zu den volatilsten in Europa gehört. Erneuerbare, Speicher, Wetter und Regulierung verschieben die Preisbildung fortlaufend. Ein Backtest bleibt ein Test auf historischen Daten, zeigt aber, wo der Unterschied zwischen einem statischen und einem lernenden Ansatz konkret wird. Die vollständige Methodik samt Grenzen haben wir offengelegt.

Was das für Entscheider bedeutet

Kontinuierliches Lernen ist kein Zauberwort. Die größte Schwierigkeit ist Stabilität. Ein System darf nicht jeder kurzfristigen Schwankung hinterherlaufen, es muss echten Strukturwandel von Rauschen unterscheiden. Und wer es einsetzt, muss nachvollziehen können, warum es sich verändert hat. Für alle, die KI-Budgets verantworten, hat das eine unbequeme Konsequenz. Der heutige Standard, Modelle regelmäßig neu zu trainieren, wirkt wie eine Lösung, bleibt aber eine Krücke. Zwischen dem Moment, in dem sich die Marktlogik verschiebt, und dem, in dem ein neues Modell ausgerollt ist, vergehen oft Wochen. So lange entscheidet das System auf Basis einer Annahme, die es längst nicht mehr gibt. Jeder Zyklus beginnt zudem bei null und lernt mühsam erneut, was das System im Kern schon wusste.

Die Rechnung endet auch nicht beim Training. Wer regelmäßig neu trainiert, betreibt dauerhaft eine Pipeline aus Datenanbindung, Trainingsinfrastruktur, Validierung und Monitoring. Sie bindet Budget und rares ML-Talent, und ihr einziger Zweck ist, dass die Modelle nicht schlechter werden. Eine nützliche Kontrollfrage für jedes IT-Budget: Welcher Anteil unserer KI-Kosten hält die Modelle bloß aktuell, welcher macht sie besser?

Braucht das wirklich neue Rechenzentren?

Gerade fließen Milliarden in neue Rechenzentren. Große Sprachmodelle werden diese Infrastruktur weiter brauchen, Training und Betrieb bleiben rechenintensiv. Daraus zu schließen, dass Intelligenz sie grundsätzlich voraussetzt, wäre trotzdem falsch. 

Das anpassungsfähigste System, das wir kennen, ist das menschliche Gehirn, und es arbeitet mit etwa 20 Watt. Anpassungsfähigkeit ist eben eine Frage der Architektur, nicht der Rechenleistung. Unser System läuft deshalb auf gewöhnlicher Server-Hardware, ohne GPU-Cluster. Für Europa geht es dabei um mehr als Geld: Wer adaptive KI ohne Hyperscaler-Infrastruktur betreiben kann, gewinnt ein Stück technologischer Souveränität zurück.

Software, die mit dem Einsatz reift

Bisher beginnt Software zu veralten, sobald sie ausgeliefert ist. Ein lernendes System dreht diese Logik um. Es wird mit jedem Tag im Einsatz wertvoller.

Jede Anwendung, die ein Unternehmen einsetzt, kann der Wettbewerber ebenfalls lizenzieren. Bei einem lernenden System gilt das nur für den Tag der Installation. Zwei Systeme starten identisch, und ein Jahr später sind es zwei verschiedene Experten, jeder geprägt von der Anlage, dem Markt und den Entscheidungen seiner eigenen Umgebung. Ausliefern können wir das nicht, auch nicht an den Nächsten, der danach fragt.

Damit rückt ein System näher an das, was der Fisch vom Anfang längst kann. Es behauptet sich in einer Welt, die sich nie wiederholt. Die schwierigere Frage lautet deshalb, wie gut ein Modell lernt, während es schon arbeitet.

Dr. Tim Gülke, wakeline

Tim

Gülke

Co-Founder und CEO

Wakeline

Dr. Tim Gülke ist Co-Founder und CEO von Wakeline, einem Düsseldorfer Deep-Tech-Unternehmen für kontinuierlich lernende KI. Neben verschiedenen Strategie- und Führungsfunktionen bei Volkswagen in Deutschland und China entwickelte er die KI-Software von Wakeline und verband dabei Erkenntnisse aus seiner Forschung mit praktischen Experimenten.
Anzeige

Weitere Artikel

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.