Claude-Code-Entwickler warnt vor kognitiver Kapitulation

Addy Osmani, Entwickler im Team von Claude Code bei Anthropic, warnt davor, dass die Arbeit mit KI-Agenten das kritische Denken von Entwicklern schwächen kann. In einem auf X veröffentlichten Essay schreibt er, in seinem eigenen Arbeitsalltag zwinge ihn kaum noch etwas zu kritischem Denken, seit so viel seiner Arbeit über Agenten laufe. Kritisches Denken müsse man deshalb bewusst in den Tag einbauen.

Vom Auslagern zur Kapitulation

Osmani unterscheidet drei Stufen im Umgang mit KI. Bei der ersten, dem kognitiven Auslagern, übergeben Entwickler Aufgaben an die KI, behalten aber die Verantwortung für das Ergebnis. Das tue er selbst den ganzen Tag, schreibt Osmani. In einer mittleren Stufe tritt die eigene Beurteilung zunehmend in den Hintergrund, Antworten der KI werden zur Grundlage für die nächste Aufgabe. Am Ende steht die kognitive Kapitulation (Cognitive Surrender), bei der Nutzer Ergebnisse übernehmen, ohne sie zu hinterfragen. Den Begriff hatten die Forscher Steven Shaw und Gideon Nave von der Wharton School geprägt.

„Wenn man die Antwort auf eine Frage nicht erklären kann, auch nicht mithilfe seines Agenten, hat man die Verantwortung abgegeben.”
Addy Osmani, Entwickler im Team von Claude Code

Grüne Tests reichen nicht

Als Beispiel nennt Osmani einen Agenten, der einen Pull Request mit 600 Zeilen sauber strukturiertem Code einreicht, dessen Tests bestanden sind und den der Entwickler daraufhin zusammenführt. Bestandene Tests belegten aber nur, dass die von den Tests abgedeckten Bedingungen erfüllt sind. Die wachsende Lücke zwischen dem Umfang des Codes und dem Verständnis der Entwickler bezeichnet er als kognitive Schuld. Zudem könnten Agenten Software schneller erzeugen, als Teams sie prüfen können. Mehr Agenten erhöhten dann vor allem die Menge an Arbeit, die auf eine Prüfung wartet. Fähigkeiten, die man nicht mehr übe, gingen schneller verloren, als man denke.

Gewohnheiten zur Überprüfung

Osmani spricht sich nicht gegen KI-Werkzeuge aus, empfiehlt aber feste Gewohnheiten. Entwickler sollten vor einer Aufgabe festlegen, woran sie Erfolg messen, sich zunächst eine eigene Meinung bilden, die vom Agenten ausgeführten Befehle und Testprotokolle prüfen und kleinere Änderungen bevorzugen. Zudem könne man sich vom Agenten Fragen zum gerade geschriebenen Code stellen lassen, bevor dieser übernommen wird.

Anthropic hatte Anfang 2026 eine Studie veröffentlicht, nach der Entwickler, die beim Erlernen einer neuen Programmierbibliothek KI-Unterstützung nutzten, in anschließenden Verständnistests 17 Prozent schlechter abschnitten. Laut dem Börsenprospekt von Anthropic stammte im September mehr als 90 Prozent des neu hinzugefügten Codes des Unternehmens von Claude.

(red)