Verbraucher ziehen klare Grenzen für autonome KI

Das zeigt eine internationale Studie von Ping Identity mit 11.000 Befragten aus zwölf Ländern, nach der nur 5 Prozent der Teilnehmer damit einverstanden sind, dass KI mit ihrer Zustimmung selbstständig handelt.

Unterstützung ja, eigenständige Transaktionen kaum

Besonders deutlich wird die Zurückhaltung, sobald KI nicht mehr nur Empfehlungen gibt, sondern selbst Entscheidungen oder Aktionen übernimmt. Insgesamt 56 Prozent der Befragten können sich KI bei risikoarmen Aufgaben oder als Empfehlungsgeber vorstellen. Lediglich 3 Prozent würden einem System erlauben, Routinetätigkeiten oder Transaktionen ohne eine abschließende Freigabe durchzuführen.

Auch beim Umgang mit Geld setzen die Befragten enge Grenzen. 42 Prozent würden einem KI-Agenten einen finanziellen Spielraum von maximal 100 US-Dollar einräumen. 22 Prozent lehnen Finanztransaktionen durch KI grundsätzlich ab.

Damit wächst die Bedeutung der Frage, welche Befugnisse ein KI-Agent tatsächlich erhalten soll. Für Verbraucher geht es nicht allein um die Möglichkeit, dass ein System Fehler macht. Sie stellen auch infrage, ob eine KI ihre Interessen, persönlichen Werte und Entscheidungen korrekt vertreten kann.

Vertrauen in den Umgang mit Identitätsdaten sinkt

Parallel zur vorsichtigen Haltung gegenüber autonomen KI-Systemen ist auch das allgemeine Vertrauen in den Umgang mit persönlichen Identitätsdaten zurückgegangen. Nur 12 Prozent der Befragten vertrauen Organisationen uneingeschränkt bei der Verwaltung ihrer Identitätsdaten. Im Vorjahr waren es laut Ping Identity noch 17 Prozent.

Besonders sensibel reagieren die Verbraucher beim Zugriff auf persönliche Konten und Informationen. Geld und E-Mail-Konten gehören zu den Bereichen, bei denen die Bereitschaft zur Delegation an KI besonders niedrig ist.

71 Prozent befürchten zudem, dass ein KI-Agent, der in ihrem Namen handelt, ihre Persönlichkeit oder ihre Werte falsch darstellen könnte. Für 47 Prozent ist die dauerhafte Kontrolle der Aktivitäten eines KI-Agenten sogar problematischer als ein einzelner Fehler des Systems.

Offenlegung wird wichtiger

Die Befragung zeigt außerdem, dass Verbraucher wissen wollen, wann sie mit KI interagieren. 56 Prozent legen mehr Wert darauf, über den Einsatz von KI informiert zu werden, als ausschließlich das schnellstmögliche Ergebnis zu erhalten.

Fehlt diese Information, kann das direkte Folgen für Unternehmen haben. Jeweils 20 Prozent der Befragten würden eine Website sofort verlassen, wenn sie einen nicht offengelegten KI-Einsatz vermuten, oder die betreffende Marke künftig meiden.

Darryl Jones, Vice President of Consumer Segment Strategy bei Ping Identity, sieht deshalb klare Grenzen für die Delegation von Aufgaben: „Je mehr Verantwortung wir der KI übertragen, desto wichtiger wird es, klar zu sein: Was darf sie tun, worauf darf sie zugreifen und wer behält die Kontrolle?“

Große Unterschiede zwischen den Ländern

Wie weit Verbraucher KI eigenständige Entscheidungen überlassen würden, unterscheidet sich deutlich nach Region. In Indien können sich 70 Prozent der Befragten eine weitergehende Delegation vorstellen, in Indonesien sind es 61 Prozent. In Schweden liegt der Anteil dagegen bei 21 Prozent, in den Niederlanden bei 19 Prozent und in Australien bei 18 Prozent.

Auch bei der Transparenz gibt es unterschiedliche Erwartungen. In Australien wollen 68 Prozent wissen, wann KI eingesetzt wird, in den USA sind es 63 Prozent und in Großbritannien 57 Prozent. In Indonesien steht dagegen für 62 Prozent der Befragten die Geschwindigkeit und Genauigkeit eines Ergebnisses über der Offenlegung des KI-Einsatzes.

Die Ergebnisse der Consumer Survey 2026 von Ping Identity zeigen damit einen zentralen Konflikt beim Einsatz von KI-Agenten: Verbraucher sind bereit, Unterstützung anzunehmen, wollen die Kontrolle über sensible Entscheidungen und Zugriffe aber weitgehend behalten. Klare Berechtigungen, nachvollziehbare Aktionen und Transparenz werden damit zu wichtigen Voraussetzungen für den Einsatz autonomer KI.

(red/Ping Identity)