IT-Sicherheit in Produktion und Technik
12.09.17 - 13.09.17
In Berlin

Be CIO: IT Management im digitalen Wandel
13.09.17 - 13.09.17
In Köln

IBC 2017
14.09.17 - 18.09.17
In Amsterdam

it-sa 2017
10.10.17 - 12.10.17
In Nürnberg

Transformation World
19.10.17 - 20.10.17
In Heidelberg

ChatbotVirtuelle Assistenten könnten die Kommunikation mit Kunden revolutionieren. Geht es nach den Anbietern, wird diese Technologie immer größere Teile der Kommunikation mit den Kunden übernehmen, denn sie verspricht hervorragende Einsparungseffekte im Kundenservice.

Doch so viele Chancen diese innovativen Lösungen für Unternehmen auch bieten, gibt es beim Einsatz noch immer rechtliche Fallstricke. Hier ist der Gesetzgeber gefragt, bestehende Unsicherheit auszuräumen.

Künstliche Intelligenz und die Revolution im Kundenservice

Den Kundendienst durch automatisierte Systeme zu ersetzen – also virtuelle Assistenten oder auch Chatbots – ist für viele Firmen ein verlockender Ansatz. Steigende Rechenleistungen und größere Datenspeicher haben in den letzten Jahren dazu geführt, dass die Systeme immer ausgereifter werden und Kunden mitunter nicht mehr erkennen, ob sie mit einem Menschen oder einem Computerprogramm über ein Chatsystem kommunizieren. Ein Beispiel wäre ein Chatsystem auf der Internetseite des Unternehmens. Hier werden Fragen der Kunden in Einzelteile zerlegt, analysiert, verarbeitet und eine möglichst passende Antwort an den Kunden zurückgespielt. Virtuelle Assistenten werden aber auch über andere Kanäle angesteuert, wie über den Sprachassistenten im Smartphone oder dem Device, das mit Lautsprechern und Mikrofonen versehen per Sprache angesteuert wird.

Rechtliche Rahmenbedingungen müssen Schritt halten

Doch inwieweit die rechtlichen Rahmenbedingungen mit dem technologischen Wandel der schlauen Assistenten Schritt halten, ist fraglich. Bestimmte Rechtsfragen sind nach heutigem Stand noch nicht abschließend zu bewerten. Diese Fragen betreffen beispielsweise die Haftung – also Konstellationen, in denen virtuelle Assistenten fehlerhaft programmiert sind und es zu falschen Auskünften oder gar Schäden kommt. Im E-Commerce stellen sich ebenfalls diverse Fragen. Muss der Betreiber eines Onlineshops etwa bei der Verwendung eines virtuellen Assistenten die Informationspflichten erfüllen, die er auch im Rahmen seines Onlineshops zu beachten hat? Auch der Datenschutz und die IT-Sicherheit spielen bei dem Einsatz der innovativen Technologie eine wichtige Rolle.

Versicherungspflicht für virtuelle Assistenten

Die Haftung autonom agierender Systeme, also letztlich auch virtueller Assistenten, ist ein in der Rechtswissenschaft kontrovers diskutiertes Thema. Im Kern geht es dabei einerseits um die Frage, ob und wem das fehlerhafte Funktionieren eines autonomen Systems zugerechnet werden kann. Andererseits wird aber auch danach gefragt, wie denn der Nutzer überhaupt beweisen kann, dass ein virtueller Assistent fehlerhaft funktioniert hat. Letzteres ist zunächst auch ein tatsächliches Problem heutiger komplexer IT-Systeme. Denn wenn Assistenten eigenständig, auf Basis von Algorithmen, Erfahrungswerten und Unmengen an Daten, Entscheidungen fällen, kann es sein, dass nicht einmal der Betreiber reproduzieren kann, ob und wieso ein virtueller Assistent fehlerhaft funktioniert hat. So sehr die virtuellen Assistenten auch schon heute in der Lage sind, echte Personen zu simulieren – eine eigene Rechtspersönlichkeit kommt ihnen nach deutschem Recht bisher nicht zu. Selbst haften kann der virtuelle Assistent aus diesem Grund nicht. Ansprechpartner wären für den geschädigten Nutzer zunächst die Betreiber oder Entwickler der virtuellen Assistenten.

Vor dem Hintergrund der Haftung für autonome Systeme werden auch Stimmen laut, für selbstständig agierende Computersysteme eine Versicherungspflicht einzufordern. Dies sieht das deutsche Recht schon heute beispielsweise für Fahrzeuge oder Anhänger im Straßenverkehr vor. Eine solche Versicherungspflicht mag für autonome Systeme, die Medikamente ausgeben oder komplexe und vor allem teure Produktionsprozesse steuern, sachgerecht erscheinen. Ob dies allerdings für im Kundenservice eingesetzte virtuelle Assistenten, die auf den ersten Blick einen relativ überschaubaren Schaden verursachen können, erscheint fraglich. Schließlich gibt das System lediglich Auskünfte, die heute ein Servicemitarbeiter am Telefon gibt. Hier wäre der Gesetzgeber in jedem Fall gefragt, mit Augenmaß zu agieren und nicht alle virtuelle Assistenten einer Versicherungspflicht zu unterwerfen.

Europäische Union sieht Handlungsbedarf bei Robotik und künstlicher Intelligenz

Auch auf europäischer Ebene wird bereits darüber nachgedacht, wie mit den Risiken und Chancen der künstlichen Intelligenz umgegangen werden soll und beispielsweise welche Sicherheitsstandards einzuhalten sind. Die Abgeordneten des Europäischen Parlamentes legten Anfang des Jahres einen Bericht über zivilrechtliche Regelungen zur Robotik vor. Sie forderten die Europäische Kommission im Rahmen einer Entschließung dazu auf, in der Europäischen Gesetzgebung im Bereich Robotik und künstliche Intelligenz umfassender tätig zu werden. Die Abgeordneten forderten die Kommission auch dazu auf, einen speziellen rechtlichen Status für Roboter zu schaffen. Damit soll geklärt werden, wer im Schadensfall haftet. Auch ethische Fragen stehen im Fokus der Abgeordneten. Sie forderten einen freiwilligen ethischen Verhaltenskodex für Entwickler, sodass Design und Nutzung von Robotern auch mit der Menschwürde im Einklang steht.

Virtuelle Assistenten in Onlineshops – Hinweise für Händler

Parallel zu diesen Themen, die mitunter nach Science-Fiction anmuten, stellen sich schon heute beim Einsatz ganz praktische Probleme. Richtet sich ein Onlineshop an Verbraucher, hat der Betreiber beispielsweise Informationspflichten vor unmittelbarer Abgabe der Bestellung zu erfüllen. Schon heute sind Ausnahmen für die sogenannte individuelle Kommunikation vorgesehen. Bestellt der Verbraucher also direkt über eine versendete E-Mail, greifen Ausnahmen. Der Gesetzgeber hatte als Beispiel für eine solche individuelle Kommunikation auch Chats im Auge. Ob damit aber auch die Fälle erfasst sein sollen, bei denen gar kein menschlicher Gegenpart mit dem Kunden über den Chat kommuniziert – also virtuelle Assistenten den Kundendienstmitarbeiter ersetzen – ist fraglich. Man könnte argumentieren, dass der virtuelle Assistent keine individuelle, sondern eine technisch vorgegebene Kommunikation darstellt. Andererseits könnte es auch praktisch schwierig werden, wenn in einem Chatfenster der virtuelle Assistent zunächst vor Finalisierung der Bestellung die Pflichtangaben in einem kleinen Textfenster darstellt. Ob das Kunden nicht eher verwirrt, als dass es weiterhilft, ist eine zu berücksichtigende Frage. Hier ist am Ende des Tages auch der Gesetzgeber gefragt, klarstellende Regelungen zu schaffen, die mit dem technologischen Wandel Schritt halten.  

Datenschutz und IT-Sicherheit

Nicht zuletzt sind – besonders mit Blick auf die im nächsten Jahr greifende Datenschutzgrundverordnung – beim Einsatz virtueller Assistenten auch datenschutzrechtliche und IT-sicherheitstechnische Grundsätze zu beachten. Das gilt besonders, wenn Nutzer personenbezogene Daten über das Interface des Assistenten an den Anbieter übermitteln. Gerade wenn die Assistenten gar nicht selbst vom einsetzenden Unternehmen entwickelt und gehostet werden, sondern zum Beispiel von sozialen Netzwerken angeboten und in die dort zu findenden Auftritte der Unternehmen eingebunden werden können, ist Vorsicht geboten. Hier ist ein Augenmerk darauf zu legen, in welchen Ländern die Server für diese Technologien stehen und wer Zugriff auf die Kommunikation mit dem Kunden haben könnte.

Dr. Nico BrunotteDr. Nico Brunotte, LL.M. (Cambridge) ist Rechtsanwalt bei CMS in Deutschland und berät zu Rechtsfragen rund um Zukunftstechnologien und digitale Geschäftsmodelle.

 

Frische IT-News gefällig?
IT Newsletter Hier bestellen:

Newsletter IT-Management
Strategien verfeinert mit profunden Beiträgen und frischen Analysen

Newsletter IT-Security
Pikante Fachartikel gewürzt mit Shortnews in Whitepaper-Bouquet