Transparenzlücke bei KI-Agenten

Eine neue Studie von Twilio, Anbieter einer Customer-Engagement-Plattform, zeigt eine erhebliche Lücke zwischen dem, was Unternehmen über die Kennzeichnung ihrer KI-Agenten im Kundenservice angeben, und dem, was Kunden tatsächlich wahrnehmen. Grundlage ist die Studie „How to Scale Automation Without Losing Customer Confidence“.

Konfiguration bildet das Kundenerlebnis nicht ab

81 Prozent der befragten Unternehmen geben an, ihre KI-Agenten würden sich Kunden gegenüber sofort als solche zu erkennen geben. Unter den befragten Kunden bestätigen dies jedoch nur 22 Prozent, eine Differenz von 59 Prozentpunkten bei einer eigentlich klar überprüfbaren Frage. Nach Einschätzung der Studie bedeutet diese Abweichung nicht, dass Unternehmen oder Kunden bewusst falsche Angaben machen.

Vielmehr könne ein entsprechender Hinweis technisch vorhanden sein, ohne die Kunden zuverlässig zu erreichen, etwa weil er in einer schnell übersprungenen Begrüßungsnachricht steht, nur das mehrdeutige Wort „Agent“ im Namen auftaucht oder der Hinweis zwischen Kanälen wie Webchat und SMS uneinheitlich ist. Nur 32 Prozent der Unternehmen priorisieren KI-Transparenz bereits in der Entwicklungsphase ihrer Agenten. 75 Prozent der Verbraucher glauben zudem, einen textbasierten KI-Agenten erkennen zu können, in einem Test der Studie gelang dies jedoch 90 Prozent nicht.

Drei Fragen entscheiden über die Transparenz

Nach den Ergebnissen der Studie sind für Kunden drei Aspekte entscheidend. Erstens die Frage, mit wem sie sprechen: 76 Prozent der Verbraucher erwarten, dass sich ein KI-Agent zu Beginn des Gesprächs zu erkennen gibt, tatsächlich erleben dies nur 22 Prozent. Zweitens der Datenzugriff: 49 Prozent der Verbraucher wünschen sich Transparenz darüber, auf welche Informationen ein KI-Agent zugreifen kann, doch nur 19 Prozent der Unternehmen holen vor einem Zugriff auf personenbezogene Daten eine ausdrückliche Einwilligung ein.

Hinzu kommt, dass 62 Prozent der Verbraucher dem Umgang der Unternehmen mit ihren personenbezogenen Daten grundsätzlich misstrauen. Drittens die Nachvollziehbarkeit von Entscheidungen: 54 Prozent der Verbraucher vertrauen KI stärker, wenn Unternehmen deren Funktionslogik verständlich erklären, 48 Prozent der Unternehmen stellen bereits entsprechende Erklärungen bereit, etwa über Schaltflächen, die Empfehlungen begründen.

Fünf Maßnahmen für mehr Transparenz

Die Studie nennt fünf Maßnahmen, mit denen Unternehmen die Kennzeichnung ihrer KI-Agenten wirksamer gestalten können: von Beginn eines Gesprächs an informieren, bevor der Kunde sein Anliegen schildert; die KI eindeutig als „KI-Agent“ benennen, statt mehrdeutiger Begriffe wie „Assistent“ oder „virtueller Agent“; den Hinweis in jedem Kommunikationskanal separat wiederholen; eine klare Ausstiegsmöglichkeit zu einem menschlichen Mitarbeiter benennen; sowie tatsächliche Gesprächsprotokolle auswerten, statt sich allein auf die technische Konfiguration zu verlassen. Jesse Sumrak, Senior Content Marketing Manager bei Twilio, erklärt dazu:

„Die meisten Unternehmen versuchen nicht, jemanden zu täuschen. Sie vertrauen einer Konfigurationsdatei und weisen deren Inhalt als Ergebnis aus. Entscheidend ist, was Kunden nach dem Gespräch berichten.“

Jesse Sumrak, Senior Content Marketing Manager bei Twilio

Transparenz kann Supportwege verkürzen

92 Prozent der Verbraucher stimmen laut der Studie zu, dass Unternehmen gezielte Maßnahmen ergreifen können, damit sie sich beim Einsatz von KI wohler fühlen. Wissen Kunden, dass sie mit einer KI sprechen, können sie einfache Anliegen bewusst direkt mit dem Bot klären oder bei speziellen Fragen frühzeitig eine Weiterleitung an einen Mitarbeiter verlangen, was laut Twilio Zeit auf beiden Seiten sparen kann. Bleibt der KI-Einsatz dagegen unklar, bemerken Kunden dies der Studie zufolge häufig erst spät im Gespräch, was sich negativ auf das Vertrauen auswirken kann.

(red/Twilio)