Der Leitfaden ordnet typische KI-Schadensfälle ein und zeigt, welche Risiken versicherbar sind. 57 Prozent der Unternehmen setzen KI bereits ein.
Erhöhte Anforderungen
KI-Fehler im Unternehmen: Bitkom zeigt Absicherung auf
Bildquelle: T. Schneider / Shutterstock.com
Der Digitalverband Bitkom hat den Leitfaden „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern” veröffentlicht. Er beschreibt, wie Unternehmen Risiken beim Einsatz von KI erkennen und Schäden begrenzen können, etwa wenn eine KI eine falsche Prognose erstellt, eine fehlerhafte Zahlung auslöst oder eine automatisierte Entscheidung mit teuren Folgen trifft. Laut Bitkom setzen 57 Prozent der Unternehmen in Deutschland bereits KI ein, weitere 38 Prozent planen oder diskutieren den Einsatz.
„KI kann vorhandene Prozesse deutlich schneller und effizienter machen, zugleich besteht aber die Gefahr, dass sie bestehende Risiken deutlich verstärkt: Fehler können sich schneller verbreiten, größere Auswirkungen haben und im Nachhinein schwieriger nachvollziehbar sein.”
Lukas Spohr, Experte für Digital Insurance und InsurTech beim Bitkom
KI-Agenten erhöhen die Anforderungen
Besonders relevant ist das laut Bitkom bei KI-Agenten, die eigenständig Aufgaben planen und Aktionen ausführen. Mit ihrem Handlungsspielraum steigen die Anforderungen an Zugriffsrechte, Freigabeprozesse, Überwachung und menschliche Kontrolle.
Schäden intern, bei Dritten und am Ruf
Der Leitfaden richtet sich an Unternehmen sowie an Versicherer, InsurTechs und Makler, insbesondere an Fach- und Führungskräfte aus Underwriting, Risikomanagement und IT-Sicherheit. Er beschreibt Voraussetzungen für einen kontrollierten KI-Einsatz und geht dabei auf Qualitätsfaktoren von KI-Governance und KI-Sicherheit ein. Zudem ordnet er typische Schadensfälle ein: Schäden im eigenen Unternehmen, bei Dritten und am Ruf eines Unternehmens, etwa durch fehlerhaft eingesetzte KI oder durch sogenanntes AI-Washing, also übertriebene Angaben zum KI-Einsatz. Abschließend zeigt er, welche KI-Risiken bereits versicherbar sind und wo Lücken bestehen.
Neue Produkthaftung für Software
Rechtlich ändern sich die Rahmenbedingungen derzeit. Die überarbeitete EU-Produkthaftungsrichtlinie aus dem Jahr 2024 bezieht ausdrücklich Software einschließlich KI-Systemen ein. Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 in nationales Recht umsetzen. Eine eigene KI-Haftungsrichtlinie hatte die EU-Kommission 2025 dagegen zurückgezogen.
Der Leitfaden steht auf der Website des Bitkom kostenlos zum Download bereit.
(red/Bitkom)
