“Funktionieren nicht”: OpenAI-Mitgründer kritisiert KI-Agenten

Der ehemalige OpenAI-Entwickler Andrej Karpathy übt deutliche Kritik am aktuellen Stand autonomer KI-Agenten. Von einer praktischen Einsatzfähigkeit sei man noch weit entfernt.

Trotz des rasanten Fortschritts im Bereich künstlicher Intelligenz mahnt Andrej Karpathy, Mitgründer von OpenAI und prominenter Vertreter der “Vibe-Coding”-Bewegung, zu Geduld. In einem Gespräch im Dwarkesh Podcast (via Business Insider) äußerte sich der heute bei Eureka Labs tätige KI-Forscher skeptisch über den aktuellen Entwicklungsstand der KI-Agenten.

Grundlegende Defizite bei aktuellen Systemen

“Sie funktionieren schlicht nicht”, konstatierte Karpathy unverblümt. Die Systeme verfügten weder über ausreichende Intelligenz noch über die notwendigen multimodalen Fähigkeiten. Zentrale Funktionen wie Computersteuerung oder kontinuierliches Lernen seien nicht hinreichend entwickelt. Besonders problematisch sei, dass sich die Agenten keine Informationen dauerhaft merken könnten. “Sie sind kognitiv unzureichend und funktionieren einfach nicht.” Nach Karpathys Einschätzung wird es etwa ein Jahrzehnt dauern, diese fundamentalen Probleme zu lösen.

Überzogene Erwartungen in der Branche

KI-Agenten gelten derzeit als eine der wichtigsten Innovationen im KI-Bereich. Viele Investoren haben 2025 bereits zum “Jahr der Agenten” ausgerufen. Unter dem Begriff versteht man virtuelle Assistenten, die Aufgaben eigenständig erledigen können, von der Problemanalyse über die Planung bis zur Ausführung, ohne dass Nutzer eingreifen müssen.

Plädoyer für Mensch-Maschine-Kollaboration

Karpathy bevorzugt ein anderes Szenario: In seiner Idealvorstellung arbeiten Menschen und KI beim Programmieren zusammen. “Ich möchte, dass die KI API-Dokumentationen abruft und mir zeigt, dass sie diese korrekt verwendet hat”, schrieb er. Die Systeme sollten weniger Annahmen treffen und bei Unsicherheiten nachfragen, statt eigenständig weiterzuarbeiten. “Ich möchte nebenbei lernen und als Programmierer besser werden, nicht einfach nur mit Bergen von Code versorgt werden, von dem man mir sagt, er funktioniere.”

Die Alternative – Agenten, die Menschen überflüssig machen – berge die Gefahr, dass KI-generierter “Slop”, also minderwertige automatisch erzeugte Inhalte, allgegenwärtig werde.

Optimismus trotz Kritik

Trotz seiner kritischen Einschätzung betrachtet sich Karpathy nicht als KI-Skeptiker. Seine Zeitprognosen für KI-Durchbrüche seien zwar fünf- bis zehnmal pessimistischer als die Einschätzungen “auf einer durchschnittlichen KI-Party in San Francisco oder in der Twitter-Timeline”, jedoch deutlich optimistischer als die Ansichten der wachsenden Zahl von KI-Skeptikern und -Leugnern.