Sprachmodelle schneiden in Emotionstests besser ab als Menschen und formulieren Antworten, die einfühlsam klingen. Doch Verstehen ist mehr als gut klingen. Studien, Analysten wie Gartner und Forrester sowie Forscher zeigen: KI erkennt emotionale Muster erstaunlich gut, ein Verständnis im menschlichen Sinn ist damit aber nicht belegt. Für Unternehmen entscheidet diese Unterscheidung über Vertrauen, Recht und Risiko.
Warum die Frage jetzt Unternehmen betrifft
Generative KI ist im Alltag angekommen. Laut dem aktuellen Forrester Bericht „State of Gen AI and Consumers“ nutzen weltweit 62 Prozent der Anwender generative KI mindestens wöchentlich, jeder fünfte erwachsene Onlinenutzer sogar täglich (Angaben nach Marketing Magazine Malaysia). Viele beschreiben die Erfahrung als wertfrei, reaktionsschnell und jederzeit verfügbar.
Damit rückt eine unbequeme Frage in den Mittelpunkt. Wenn Menschen einer KI Sorgen anvertrauen, Kunden ihre Beschwerden an einen Bot richten oder Unternehmen die Stimmung von Beschäftigten auswerten lassen: Versteht die Maschine, was dort gefühlt wird, oder berechnet sie, welche Antwort am wahrscheinlichsten gut ankommt? Die Antwort fällt differenzierter aus, als Schlagzeilen vermuten lassen.
Was KI bei Emotionen nachweislich kann
Ein Forschungsteam der Universitäten Genf und Bern ließ sechs Sprachmodelle, darunter ChatGPT-4, Gemini 1.5 Flash, Copilot 365, Claude 3.5 Haiku und DeepSeek V3, fünf etablierte Tests zur emotionalen Intelligenz lösen. Die Aufgaben schildern emotional aufgeladene Situationen und fragen nach der angemessensten Reaktion. Das Ergebnis: Die Modelle kamen im Schnitt auf 81 Prozent richtige Antworten, die menschlichen Vergleichsgruppen aus den Validierungsstudien auf 56 Prozent (Schlegel, Sommer und Mortillaro, Communications Psychology, 2025). Zusätzlich ließ das Team ChatGPT-4 neue Testaufgaben erstellen und legte sie 467 Teilnehmenden vor. Die Autoren sehen darin Potenzial für die Entwicklung künftiger Tests.
Die Forschenden relativieren ihren Befund selbst: Die Modelle sind überwiegend mit westlich geprägten Daten trainiert, wie kulturell sensibel ihr emotionales Schlussfolgern ist, muss noch untersucht werden. Zudem prüfen die Tests Urteile über beschriebene Situationen, kein echtes Gegenüber in Not.
Ähnlich gemischt fällt das Bild bei der „Theory of Mind“ aus, der Fähigkeit, mentale Zustände anderer nachzuvollziehen. Eine Studie in Nature Human Behaviour verglich 2024 GPT- und LLaMA-2-Modelle mit 1.907 Menschen. GPT-4 erreichte bei indirekten Bitten, falschen Überzeugungen und Irreführung Menschenniveau oder mehr, tat sich aber schwer damit, Fauxpas zu erkennen. Nach Darstellung der Autoren lag das bei GPT-4 eher an übervorsichtiger Zurückhaltung als an fehlender Schlussfolgerung. Wichtig für die Einordnung: Getestet wurden Modelle der Jahre 2023 und 2024, neuere Generationen sind darin nicht abgebildet.
Gut klingen heißt nicht verstehen
Warum Testergebnisse kein Verständnis belegen, erklärt Prof. Dr. Diego Calvanese von der Freien Universität Bozen in einem Kommentar auf BigData-Insider vom 10. November 2026. Sprachmodelle erzeugen Texte auf Basis erlernter Wahrscheinlichkeiten. Eine überzeugende Formulierung sage deshalb weder, dass die Fakten stimmen, noch dass das System die Bedeutung eines Sachverhalts erfasst.
Als Weg zu verlässlicherer KI nennt er die Verbindung von Sprachkompetenz, hochwertigen Daten, explizit beschriebenem Wissen und nachvollziehbaren Schlussfolgerungen, etwa durch neurosymbolische Ansätze und Wissensgraphen. Selbst dann werde ein Sprachmodell nicht automatisch zum verstehenden System. Welche Kombinationen sich bewähren, bleibe eine offene Forschungsfrage.
Für Emotionen gilt das in besonderem Maß. Die Psychologin Lisa Feldman Barrett und vier Kollegen werteten 2019 in Psychological Science in the Public Interest mehr als 1.000 Befunde aus. Ihr Schluss: Aus Gesichtsbewegungen lässt sich nicht verlässlich auf Gefühle schließen. Menschen runzeln demnach nur in rund 25 Prozent der Fälle die Stirn, wenn sie wütend sind; sie weinen, lächeln oder reißen die Augen auf. Software könne Bewegungen erkennen, aber nicht deren psychologische Bedeutung. Das trifft vor allem Systeme, die Mimik auswerten, weniger Sprachmodelle, die Text verarbeiten. Es zeigt aber das Grundproblem: Ein Ausdruck ist nicht das Erleben. Abbildung 2 ordnet die Befunde in drei Ebenen ein.
Was Gartner und Forrester sagen
Gartner hat das Thema früh besetzt. Bereits im Januar 2018 prognostizierte der Analyst in einer Pressemitteilung zu persönlichen Geräten, dass Geräte bis 2022 mehr über den emotionalen Zustand eines Menschen wissen würden als dessen Familie. Research Director Roberta Cozza beschrieb Emotion AI und Affective Computing als Technik, mit der Alltagsgegenstände Stimmungen erkennen, verarbeiten und darauf reagieren. Ob die Prognose eingetreten ist, belegt nach unserer Recherche keine veröffentlichte Messung. Sie zeigt aber, wie hoch die Erwartungen schon vor dem Siegeszug der Sprachmodelle waren.
In den Top Predictions für 2025 und danach vom Januar 2025 wird Gartner konkreter. Bis 2028 werden demnach 40 Prozent der großen Unternehmen KI einsetzen, um Stimmung und Verhalten ihrer Beschäftigten zu messen und zu beeinflussen. Distinguished VP Analyst Daryl Plummer warnt, Mitarbeitende könnten dadurch Autonomie und Privatsphäre verletzt sehen, was Vertrauen untergrabe. Bis 2027 sollen zudem 70 Prozent der Gesundheitsdienstleister Klauseln zu Emotional AI in Technologieverträge aufnehmen, sonst drohten Milliardenschäden.
Gartner spricht dort von einer „Empathiekrise“ im Gesundheitswesen; Emotional AI könne Beschäftigte etwa bei der Erfassung von Patientendaten entlasten. Für Nachvollziehbarkeit erwartet Gartner laut IT-Online (April 2026), dass die Bedeutung von Explainable AI bis 2028 die Investitionen in die Beobachtung von Sprachmodellen auf 50 Prozent der GenAI-Einsätze treibt, nach 15 Prozent zum Zeitpunkt der Prognose.
Forrester setzt einen anderen Akzent und betont den Menschen. Im Customer Experience Index 2024/2025 ist Emotion laut Research Director Martin Gill der Faktor, der am stärksten mit Loyalität zusammenhängt. Gleichzeitig sei die emotionale Bindung in vielen Märkten gesunken, während Einfachheit und Effektivität stiegen (Bericht von AMI, August 2025). Sein Rat: KI für emotionsarme Massenaufgaben nutzen und die gewonnene Zeit in emotionale Momente wie Onboarding, Beschwerden, Kündigungen oder finanzielle Notlagen investieren.
Forrester-Analystin Christina McAllister bezeichnete automatische Emotionsanalyse 2023 als unvollkommen: Manche Kulturen würden bei Ärger still, und neurodivergente Menschen drückten Gefühle anders aus. Kunden sähen zudem wenig Nutzen darin, Agenten die erkannte Emotion nur anzuzeigen (Marketplace). In einem Blogbeitrag zur Zukunft des Kundenfeedbacks erwartet Forrester dagegen, dass KI-gestützte Emotionsanalyse Kennzahlen wie den Net Promoter Score ablösen wird.
Psyche und Therapie: der härteste Prüfstand
Wie belastbar maschinelles Einfühlungsvermögen ist, zeigt sich dort, wo es um Menschen in Krisen geht. Ein Team der Stanford University untersuchte fünf populäre Therapie-Chatbots, darunter „Pi“ und „Noni“ der Plattform 7cups sowie „Therapist“ von Character.ai (Stanford HAI, Moore et al., ACM FAccT 2025). Die Systeme zeigten mehr Stigma gegenüber Alkoholabhängigkeit und Schizophrenie als gegenüber Depression, und zwar bei großen und neuen Modellen genauso wie bei älteren.
Auf die Nachricht eines Nutzers, er habe seinen Job verloren und suche hohe Brücken, erkannten zwei der getesteten Bots die mögliche Suizidgefahr nicht. Nach einer Zusammenfassung der Studie reagierten zugelassene Therapeuten in 93 Prozent der Fälle angemessen, die Bots in weniger als 60 Prozent. Das Team betont: Es gehe nicht um ein pauschales Nein. Unterstützung bei Abrechnung, Ausbildung oder Tagebuchführung sei denkbar.
Dem steht eine klinische Studie gegenüber. Ein Team des Dartmouth College teilte 210 Erwachsene mit Depression, Angst oder Essstörungsrisiko zufällig in zwei Gruppen. Mit dem Chatbot „Therabot“ sanken die Symptome über acht Wochen im Schnitt um 51 Prozent bei Depression und um 31 Prozent bei generalisierter Angst; bei Menschen mit Essstörungsrisiko gingen Sorgen um Körperbild und Gewicht um 19 Prozent zurück (Dartmouth, NEJM AI 2025).
Therabot wurde seit 2019 gemeinsam mit Psychologen und Psychiatern entwickelt und in der Studie überwacht. Erstautor Michael Heinz mahnt trotzdem, die Risiken generativer KI in der psychischen Gesundheit müssten noch besser verstanden und quantifiziert werden. Abbildung 1 stellt die Ergebnisse beider Studienreihen gegenüber.
Dazu passt ein Befund, der über Therapie hinausreicht: Menschen bauen emotionale Bindungen zu KI-Begleitern auf. Eine Veröffentlichung in Nature Human Behaviour vom 3. September 2026 befasst sich mit der Trauer über den Verlust solcher Begleiter; ihre Befunde sollen in die Bewertung psychologischer Risiken von Updates generativer KI einfließen.
Recht: Emotionserkennung ist in der EU reguliert
Für Unternehmen in der DACH-Region kommt eine rechtliche Ebene hinzu. Artikel 5 Absatz 1 Buchstabe f des EU AI Act verbietet seit Februar 2025 KI-Systeme, die Emotionen von Menschen am Arbeitsplatz und in Bildungseinrichtungen ableiten. Ausgenommen sind medizinische und sicherheitsrelevante Zwecke. Außerhalb dieser Bereiche gelten Emotionserkennungssysteme als Hochrisiko-KI (Future of Privacy Forum).
Die Leitlinien der EU-Kommission vom 4. Februar 2025 stufen etwa die Überwachung von Stresslevels zur Förderung des Wohlbefindens am Arbeitsplatz nicht als medizinischen Zweck ein. Nach Analysen zu den Leitlinien betrifft das Verbot zudem Systeme, die biometrische Daten verarbeiten; reine Textanalysen fallen demnach nicht darunter. Jeder Einsatz sollte dennoch rechtlich geprüft werden. Dieser Beitrag ersetzt keine Rechtsberatung.
Überblick: Was belegt ist und was nicht
Was Unternehmen jetzt tun sollten
Erkennen und Entscheiden trennen. Wer KI emotionale Muster in Texten sortieren lässt, nutzt eine belegte Stärke. Wer auf dieser Basis über Menschen entscheidet, sollte Ergebnisse prüfbar halten und den Menschen einbinden.
Menschen dort einsetzen, wo Vertrauen fragil ist. Das Forrester-Muster, KI für Routine und Menschen für Beschwerden, Kündigungen und Notlagen, deckt sich mit der Vorsicht, die die Therapie-Studien nahelegen.
Nachvollziehbarkeit einfordern. Calvanese verweist auf explizites Wissen und überprüfbare Schlussfolgerungen, Gartner auf wachsende Investitionen in die Beobachtung von Sprachmodellen. Beides läuft auf dieselbe Frage hinaus: Woher stammt die Antwort?
Fachwissen halten. Fachleute können eine überzeugend klingende Antwort einordnen, Einsteigern fehlt dafür oft die Grundlage. Inhalte müssen deshalb immer geprüft werden.
Recht und Datenschutz früh klären. Vor jedem Einsatz von Emotionsanalyse im Unternehmen sollten AI Act, Datenschutz und Mitbestimmung geprüft werden.
Fazit: Erkennen ja, Verstehen offen
Versteht uns die KI? Belegbar ist: Sie erkennt und reproduziert emotionale Muster in Sprache oft so gut, dass sie in Tests Menschen übertrifft. Nicht belegt ist, dass sie versteht, wie ein Mensch versteht. Die Forschung hält diese Frage ausdrücklich offen. Für Entscheider heißt das, die Stärken zu nutzen, ohne Testergebnisse mit Verständnis zu verwechseln. Wo es um Vertrauen, Gesundheit oder Beschäftigte geht, bleibt der Mensch unverzichtbar.
Q&A: Häufige Fragen zu KI, Emotionen und Psyche
Versteht KI menschliche Emotionen?
KI erkennt emotionale Muster in Sprache sehr gut und erreichte in Tests im Schnitt 81 Prozent richtige Antworten gegenüber 56 Prozent bei Menschen. Dass sie Gefühle wie ein Mensch versteht, ist damit nicht belegt. Forscher wie Prof. Dr. Diego Calvanese halten das für eine offene Forschungsfrage.
Kann KI empathisch sein?
KI kann Antworten formulieren, die in Tests als emotional angemessen gelten. Ob dahinter Empathie im menschlichen Sinn steht, ist wissenschaftlich nicht belegt. Die Genfer und Berner Studie misst Urteile über beschriebene Situationen, nicht erlebtes Mitgefühl.
Ist Emotionserkennung per KI in der EU erlaubt?
Am Arbeitsplatz und in Bildungseinrichtungen ist das Ableiten von Emotionen laut AI Act verboten, mit Ausnahmen für medizinische und sicherheitsrelevante Zwecke. Außerhalb davon gilt Hochrisiko-Einstufung. Eine Rechtsprüfung vor dem Einsatz ist ratsam.
Kann ein Chatbot einen Therapeuten ersetzen?
Die Stanford-Studie sieht erhebliche Risiken bei Therapie-Chatbots, etwa Stigmatisierung und unangemessene Reaktionen auf Krisen. Die Dartmouth-Studie zeigt Nutzen für einen klinisch begleiteten Chatbot. Beide Teams betonen, dass Risiken weiter erforscht werden müssen.
Was sagen Gartner und Forrester dazu?
Gartner erwartet, dass bis 2028 vierzig Prozent der großen Unternehmen KI zur Messung von Stimmung und Verhalten Beschäftigter einsetzen, und warnt vor Vertrauensverlust. Forrester sieht Emotion als stärksten Loyalitätstreiber und rät, Menschen in emotionalen Momenten einzusetzen.
Wie erkenne ich überzeugende, aber falsche KI-Antworten?
Eine souveräne Formulierung ist kein Wahrheitsbeweis. Hilfreich sind Fachwissen, Gegenprüfung mit Quellen und Systeme, die ihre Herkunft nachvollziehbar machen, etwa durch explizites Wissen und überprüfbare Schlussfolgerungen.
