KI-Boom in Unternehmen – Wissen und Absicherung fehlen

Künstliche Intelligenz ist in der deutschen Dienstleistungsbranche längst angekommen – zeigt eine aktuelle Hiscox KI-Umfrage. Unternehmen versprechen sich vom KI-Einsatz unter anderem Wettbewerbsvorteile, vernachlässigen jedoch kritische Aspekte.

Das birgt mit dem EU AI Act auch rechtliche Risiken.

Noch nicht mal drei Jahre nachdem ChatGPT für die breite Öffentlichkeit zugänglich wurde, hat die Technologie viele Tätigkeitsbereiche und Branchen vollkommen verändert. Das gilt nicht zuletzt für Dienstleistungsunternehmen, wie die KI-Umfrage des Spezialversicherers Hiscox zeigt: 54 % der Dienstleistungsunternehmen in Deutschland setzen KI in ersten Projekten oder sogar intensiv ein. 41 % der Befragten konnten mit KI auch bereits spezifische Geschäftsziele erreichen. Ein genauerer Blick offenbart: Mitarbeitende nutzen KI als Tool für viele alltägliche Arbeiten wie die Recherche oder Übersetzung (45 %), die Datenanalyse (36 %) und die Automatisierung von Prozessen (36 %).

Ein weiteres Fünftel der Unternehmen plant zeitnah den Einstieg in die KI-Nutzung. Und auch in Zukunft wird der Trend positiv sein, denn von allen Befragten hält niemand Künstliche Intelligenz für das eigene Unternehmen für irrelevant. Die Gründe liegen auf der Hand: Die Unternehmen wollen mit KI Effizienz steigern (54 %), Qualität verbessern (48 %) und Kosten reduzieren (36 %). 81 % der KI-Entscheidenden erhoffen sich einen klaren Wettbewerbsvorteil gegenüber der Konkurrenz, weshalb sie die Entwicklung stark vorantreiben.

KI-Nutzung braucht ein entsprechendes Risikobewusstsein

Doch die KI-Nutzung bringt nicht nur Chancen, sondern auch Risiken mit sich. Die Umfrage zeigt große Defizite der Unternehmen im Umgang mit KI auf, denn 64 % der Mitarbeitenden fühlen sich nicht ausreichend geschult. Das ist ein bedeutendes Einfallstor für Risiken, die für Unternehmen sogar existenzgefährdend sein können. Besonders weil nur ein Viertel der Unternehmen einen Versicherungsschutz abgeschlossen hat, der auch Risiken abdeckt, die aus der KI-Nutzung resultieren.

Dabei handelt es sich noch nicht mal um spezielle KI-Versicherungen, sondern um die Absicherung innerhalb einer Berufshaftpflichtversicherung. Eine Berufshaftpflichtversicherung deckt Vermögensschäden bei Dritten ab, wie entgangener Gewinn oder Verletzung geistiger Eigentumsrechte, die aufgrund beruflicher Fehler entstehen. Besonders attraktiv sind für Unternehmen sogenannte Allgefahrenversicherungen, die alles absichern, was nicht explizit ausgeschlossen ist – auch Künstliche Intelligenz. Wichtig zu wissen: Dadurch müssen Unternehmen, die sich für einen qualifizierten Versicherer entscheiden, keine bestimmten Bedingungen in Bezug auf KI erfüllen oder einen „KI Aufschlag“ bezahlen, damit sie diesen Versicherungsschutz abschließen können.

Die Zahlen zum Wissen um den Versicherungsschutz sind besorgniserregend. Diese sollten ein Weckruf für die Versicherungsbranche sein. Zudem muss zur KI-Nutzung in den Unternehmen weiter Schulungs- und Aufklärungsarbeit geleistet werden. Die KI-Entscheidenden in Unternehmen müssen sich dem fehlenden Know-how der Mitarbeitenden annehmen. Mit Schulungen und klaren Strategien müssen sie ein Bewusstsein für den Umgang mit KI und die daraus resultierenden Risiken schaffen. Denn nur so können Unternehmen KI sicher einsetzen und nachhaltig davon profitieren. Besonders wichtig ist dies, weil der AI Act der Europäischen Union Unternehmen zu solchen Schulungen sogar verpflichtet.

Es gilt bei diesen Schulungen über Hürden im Umgang mit KI aufzuklären: Momentan überwiegen bei Unternehmen Bedenken zum Datenschutz (40 %) und zur Fehleranfälligkeit der Technologie (36 %). Aber auch die regulatorischen Unsicherheiten spielen trotz des AI Acts immer noch eine wichtige Rolle (42 %), sodass die Entscheidung über die KI-Nutzung stark oder sehr stark beeinflusst wird.

Was Unternehmen über den AI Act wissen müssen

Umso wichtiger ist es, dass Entscheiderinnen und Entscheider in Unternehmen die bestehenden Regulierungen wie der europaweiten Richtlinie, dem AI Act, Bescheid wissen. Dieser tritt sukzessive in Kraft und legt abhängig von der Art der KI und dem Einsatzgebiet verschiedene Regularien fest oder verbietet sogar deren Verwendung wie zum Beispiel das Social Scoring. 

Der EU AI Act ist eine regulatorische Gratwanderung: Unternehmen sollen weiterhin von der Entwicklung von KI-Systemen profitieren können, aber es sollen auch die Rechte und die Sicherheit der Menschen gewahrt werden – beispielsweise durch den Human-in-the-Loop-Ansatz. Dieser stellt sicher, dass Menschen weiterhin Verantwortung für KI-generierte Entscheidungen tragen und aktiv in die Prozesse eingebunden sind. Dadurch soll vermieden werden, dass sich KI unkontrolliert oder fehlerhaft entwickelt und die Kontrolle durch den Menschen sichergestellt ist. Der AI Act nimmt nicht nur die Entwickler von KI stärker in die Pflicht, sondern auch Unternehmen die KI-Technologien einsetzen: Schulungen sind für Unternehmen deswegen keine Empfehlung, sondern schon jetzt eine verpflichtende Vorgabe des AI Act. 

In der Praxis bedeutet das für Unternehmen, dass sie:

• Schulungsprogramme entwickeln und implementieren müssen, die die notwendigen technischen und ethischen Grundlagen für den Umgang mit KI vermitteln.
• Trainings zur sicheren Nutzung von KI-Systemen bereitstellen müssen, insbesondere wenn diese in sicherheitskritischen oder sensiblen Bereichen eingesetzt werden.
• regelmäßige Auffrischungskurse für die Mitarbeitenden anbieten müssen, um sicherzustellen, dass sie stets über die neuesten Entwicklungen und Best Practices im Umgang mit KI-Systemen informiert sind.

Der AI Act sieht vier Risikostufen vor: Von leichtem- bis inakzeptablem KI Risiko: Analog der Einstufung müssen Unternehmen Risikobewertungen und technische Dokumentationen anfertigen. Besonderen Regularien unterliegt der Einsatz von Hochrisiko-KI, der transparent, kontrollierbar und dokumentiert sein muss. Bei Verstößen drohen Strafen von bis zu 35 Mio. Euro oder 7 % des Jahresumsatzes.

Für Unternehmen sind die Ergebnisse der Hiscox KI-Umfrage und der AI Act eine klare Aufforderung jetzt Wissens- und Versicherungslücken zu schließen, um den Umgang mit Künstlicher Intelligenz sicher zu gestalten und so auch in Zukunft von Künstlicher Intelligenz zu profitieren.

Über die Hiscox KI-Umfrage

Die für die Dienstleistungs-Branche repräsentative Umfrage wurde im Auftrag von Hiscox durch Appinio zwischen dem 30.04. und dem 20.05.2025 durchgeführt. Es wurden 400 KI-Entscheidende und Nutzende in deutschen Dienstleistungsunternehmen aller Größen – vom Freelancer bis zum Großunternehmen – befragt, unter anderem zu ihrer KI-Nutzung, ihren Zielen sowie ihrem Wissensstand in puncto KI-Risiken befragt.