KI-Agenten: Wie Unternehmen das Vertrauen ihrer Kund*innen gewinnen

Die Ankündigung von Salesforce, bis zu 4.000 Support-Mitarbeitende durch KI-Agenten zu ersetzen, hat die Diskussion um den Einsatz autonomer KI-Systeme neu entfacht.

Während Unternehmen von Effizienzsteigerungen und Kosteneinsparungen träumen, zeigt eine aktuelle Studie der Telekom MMS, dass nur die Minderheit der Verbraucher*innen bereits KI-Agenten nutzen oder dies in Betracht ziehen. Gleichzeitig erwarten allerdings drei Viertel der IT-Entscheider*innen einen verstärkten Einsatz im Kundenservice. Die Diskrepanz zwischen Unternehmenserwartungen und Kundenakzeptanz ist also hoch. Wie können Unternehmen dem entgegenwirken?

Status Quo: Zwischen Euphorie und Zurückhaltung

Die Studienergebnisse zeichnen ein differenziertes Bild der aktuellen Situation: Denn auch wenn viele Unternehmen große Hoffnungen in KI-Agenten setzen, nutzen sie die wenigsten bereits in der Praxis. Dabei zeigen sich deutliche Unterschiede nach Unternehmensgröße: Großunternehmen liegen hier deutlich über dem Durchschnitt. Dies liegt vor allem an den verfügbaren Ressourcen für KI-Projekte und der größeren Datenbasis für das Training der Systeme. Als wichtigste Einsatzfelder sehen IT-Entscheider*innen für KI-Agenten vor allem den Kundenservice, administrative Prozesse sowie Marketing. Diese Bereiche versprechen offenbar das größte Potenzial für Effizienzsteigerungen und Kosteneinsparungen.

Die Vorteile der KI-Agenten schätzen auch die Verbraucher*innen: Zeitersparnis, hohe Zuverlässigkeit und reduzierter Stress durch die Automatisierung repetitiver Aufgaben steht für sie im Vordergrund. Dennoch überwiegen bei vielen noch die Vorbehalte: Fast die Hälfte der Befragten sorgt sich um mögliche Fehlentscheidungen der KI-Systeme. Ähnlich groß ist die Skepsis beim Umgang mit sensiblen Daten. Mehr als ein Drittel fürchtet zudem einen Kontrollverlust durch die Automatisierung.

Diese Bedenken spiegeln sich auch in den konkreten Anforderungen wider, die Verbraucher*innen an KI-Agenten stellen. An erster Stelle steht dabei der Wunsch nach Transparenz und nachvollziehbaren KI-Entscheidungen. Eng damit verbunden ist das Bedürfnis nach Kontrolle: Die Befragten möchten die Möglichkeit haben, Aufgaben bei Bedarf selbst zu übernehmen und vorab festlegen können, welche Aufgaben die KI für sie übernimmt. Beim Thema Datenschutz zeigt sich eine klare rote Linie: Fast ein Drittel lehnt die Nutzung sensibler Daten durch KI-Systeme grundsätzlich ab.

Die Studie zeigt zudem eine deutliche Generationenkluft: Jüngere Befragte (18-24- und 25-34-Jährige) bewerten KI-Agenten mehrheitlich positiv und nutzen sie häufig, während ältere (55+) eher skeptisch sind und seltener KI-Tools verwenden. Unternehmen sollten daher alters- und zielgruppenspezifische Strategien für den KI-Einsatz entwickeln. 

Diese Anforderungen müssen Unternehmen bei der Implementierung von KI-Agenten von Anfang an berücksichtigen. Konzepte wie „Privacy by Design“ machen den Datenschutz zum integralen Bestandteil der System-Architektur. Technologische Ansätze wie Explainable AI sorgen dafür, dass die Entscheidungen der Algorithmen nachvollziehbar sind. Solche Best Practices für transparente KI-Systeme sind der Schlüssel, um Vertrauen aufzubauen.

Rechtssicherheit von KI-Agenten als Basis für den Einsatz

Neben technischen Aspekten spielt auch die rechtliche Absicherung eine zentrale Rolle bei der Nutzung von KI-Agenten. Die Rechtsexperten der Anwaltskanzlei Bird & Bird weisen auf zentrale juristische Herausforderungen hin: Der EU AI Act macht eine besonders sorgfältige Einordnung von KI-Systemen erforderlich. Gerade bei KI-Agenten, die typischerweise auf Large Language Models (LLMs) zurückgreifen und diese über APIs in komplexe Workflows einbinden, ist es laut den Experten entscheidend zu unterscheiden, welche Komponenten als General Purpose AI (GPAI)-Modelle gelten und welche als darauf aufbauende KI-Systeme. Diese Unterscheidung ist zentral, da Unternehmen durch wesentliche Modifikationen eines KI-Modells unbeabsichtigt selbst zu GPAI-Anbietern werden können – mit umfangreichen regulatorischen Pflichten.

Bird & Bird empfiehlt daher eine eigene Strategie mit klaren Richtlinien – entsprechend den bestehenden Guidelines für den Umgang menschlicher Mitarbeitender mit KI. Diese Regeln sollten beispielsweise festlegen, dass KI-Agenten zwar Marketingkampagnen entwickeln dürfen, aber keine Kampagnen der Konkurrenz kopieren oder irreführende Werbung erstellen. Solche Vorgaben schaffen nach Ansicht der Juristen rechtliche Sicherheit und fördern zugleich die Akzeptanz der Systeme.

Angesichts der rechtlichen Komplexität raten die Experten von Bird & Bird zu einem ganzheitlichen Compliance-Ansatz. Dieser sollte alle relevanten Rechtsmaterien umfassen und regelmäßig an neue Entwicklungen angepasst werden. Die Juristen unterstreichen zudem die Notwendigkeit, rechtliche Aspekte von Beginn an in KI-Strategien zu integrieren, um potenzielle Probleme zu vermeiden und das Vertrauen der Kundschaft zu wahren.

Geschäftsmodelle für KI-Agenten: Was Kund*innen wirklich zahlen wollen

Damit KI-Agenten in der Praxis ankommen, müssen die Anbieter deren Wirtschaftlichkeit prüfen. Dabei zeichnen sich bereits verschiedene Ansätze zur Monetarisierung ab: Neben der Produkterweiterung denken die IT-Entscheider*innen über After-Sales- oder Abo-Modelle nach. Auch Premium-Agenten und Pay-per-Use-Konzepte sehen sie als mögliche Varianten.

Allerdings offenbart sich bei der Zahlungsbereitschaft der Verbraucher*innen für diese Services eine ernüchternde Realität: Eine große Mehrheit ist nur bereit, kostenlose KI-Modelle zu nutzen. Pay-per-Action-Modelle oder Abonnements wecken bislang noch wenig Begeisterung.

Die Diskrepanz zwischen unternehmerischen Ambitionen und der geringen Zahlungsbereitschaft der Nutzer*innen erfordert kreative Lösungsansätze. Vielversprechende Strategien könnten die Integration von KI in Premium-Services, der Fokus auf B2B-Lösungen oder die Nutzung von Effizienzgewinnen zur Refinanzierung sein. Zukunftsweisend ist dabei ein hybrider Ansatz, der KI-Effizienz mit menschlicher Expertise kombiniert. Unternehmen sollten KI klar als Unterstützung positionieren, menschliche Interaktion für komplexe Fälle beibehalten und solche Anwendungen dem Menschen überlassen, in denen Empathie gefragt ist. Eine schrittweise Einführung hilft, Akzeptanz zu schaffen.

Die Balance zwischen Innovation und Vertrauen finden

Der Erfolg der Technologie hängt letztendlich davon ab, wie gut Unternehmen den Wert ihrer KI-Lösungen vermitteln, sie in bestehende Geschäftsmodelle integrieren und dabei die Balance zwischen Innovation und menschlicher Interaktion wahren. Entscheidend ist für Unternehmen ist dabei, das Vertrauen der Nutzer*innen durch Transparenz, Kontrolle und Rechtssicherheit zu gewinnen. Unternehmen sollten dabei über kurzfristige Effizienzgewinne hinausdenken und eine langfristige Strategie für den Einsatz entwickeln.

Die Studie zeigt: Der Weg zu vertrauenswürdigen KI-Agenten ist noch weit, aber die Richtung ist klar. Wer jetzt die richtigen Weichen stellt und verantwortungsvoll mit der Technologie umgeht, kann sich einen nachhaltigen Wettbewerbsvorteil sichern. Dabei wird es immer wichtiger zu fragen, was Kund*innen wirklich wollen und was gesellschaftlich wünschenswert ist, statt sich allein auf die technischen Möglichkeiten zu fokussieren.