Thought Leadership
Der zunehmende Einsatz von KI in Schulen und Hochschulen weckt Erwartungen, gerade weil viele Bildungseinrichtungen unter Lehrkräftemangel leiden.
Gleichzeitig weist eine Untersuchung von Tiffany Li vom Stevens Institute of Technology darauf hin, dass große Sprachmodelle nur eingeschränkt als digitale Lernbegleiter geeignet sind. Die Studie zeigt, wie leicht irreführende Antworten von Chatbots übersehen werden, besonders dann, wenn Lernende ein Thema noch nicht sicher beherrschen (via Pressetext).
Ein Chatbot mit eingebauten Stolpersteinen
Um das Problem systematisch zu erfassen, entwickelte das Forschungsteam einen eigenen Lernassistenten für Statistik. Dieser Chatbot war so programmiert, dass er gelegentlich bewusst falsche Informationen lieferte. Ziel war es herauszufinden, wie gut Lernende in der Lage sind, Fehler zu erkennen.
Für die Untersuchung nahmen 177 Personen teil, darunter Studierende und Erwachsene mit Interesse an Statistik. Während sie Aufgaben bearbeiteten, konnten sie jederzeit mit dem Chatbot interagieren. Ergänzend standen verlässliche Quellen wie ein Online-Lehrbuch zur Verfügung, damit Überprüfungen jederzeit möglich waren.
Geringe Fehlererkennung trotz Hilfsmittel
Die Teilnehmenden sollten alle Unstimmigkeiten melden und wurden sogar mit einem kleinen finanziellen Bonus motiviert, besonders aufmerksam zu sein. Dennoch entdeckten sie durchschnittlich lediglich einen geringen Teil der eingebauten Fehler. Rund 15 Prozent der falschen Antworten blieben unbemerkt.
Besonders auffällig war, dass fehlerhafte Aussagen häufiger akzeptiert wurden, wenn die Lernenden den Stoff noch nicht gut kannten. Äußerte der Chatbot seine Antworten in sicherem und flüssigem Stil, erhöhte das Vertrauen zusätzlich. Die Studie verdeutlicht damit, wie stark die Wirkung eines selbstbewusst formulierten KI-Outputs sein kann.
Lernbegleitung nicht ohne Vorwissen
Aus Sicht von Tiffany Li ist ein zentraler Punkt entscheidend. Chatbots sollten nicht der erste Kontaktpunkt mit neuem Wissen sein. Die Forscherin empfiehlt, sie eher dann einzusetzen, wenn Lernende bereits ein Grundverständnis besitzen und Fehlinformationen besser einschätzen können. KI könne das Lernen bereichern, aber nur in einem Rahmen, in dem Nutzerinnen und Nutzer sicher genug sind, Antworten zu hinterfragen.
Die Ergebnisse unterstreichen, dass digitale Unterstützung kein Ersatz für pädagogische Begleitung ist. Sie zeigen jedoch auch Potenzial, wenn Lernende bereits über solides Vorwissen verfügen. Eine reflektierte Nutzung kann helfen, Kompetenzen zu vertiefen, ohne dass falsche Inhalte unkritisch übernommen werden.
