KI effizient und verantwortungsbewusst einsetzen

In seinem richtungsweisenden Positionspapier „Entscheidungsunterstützung mit Künstlicher Intelligenz“ nimmt der IT-Branchenverband BITKOM Stellung zu zentralen Fragen rund um den Einsatz künstlicher Intelligenz.

In dem Dokument nehmen führende Branchenvertreter Stellung zu Fragen der unternehmerischen und gesellschaftlichen Verantwortung beim verstärkten Einsatz künstlicher Intelligenz in Entscheidungsprozessen. Vectra Networks, ein Anbieter von Lösungen für die Echtzeit-Erkennung laufender Cyber-Angriffe, begrüßt die Empfehlungen des Positionspapiers und betont die weiterhin entscheidende Rolle von menschlichen Experten in Fragen der IT-Sicherheit, wenn diese effizient durch künstliche Intelligenz unterstützt werden.

In neuen Kernaussagen spricht BITKOM konkrete Empfehlungen aus, die unter anderem auf besonders verantwortungsvolle Entscheidungsprozesse abzielen. Diese sollten so gestaltet werden, dass die letzte Entscheidungskompetenz bei verantwortlichen Akteuren verbleibt, bis die Steuerungs-qualität der künstlichen Intelligenz ein von allen Beteiligten akzeptiertes Niveau erreicht. Außerdem fordern die Experten bei der Einführung von KI-basierenden Entscheidungsprozessen eine angemessene Sorgfalt bei Dokumentation und Qualitätssicherung. Bei kritischen Prozessen sollte im Zweifelsfall der Mensch die letzte Entscheidungsinstanz bleiben.

Dem pflichtet Gérard Bauer, VP EMEA bei Vectra Networks bei: „Wir setzen mit unserer Cognito AI-Technologie darauf, IT-Sicherheitsexperten dabei zu unterstützen, ihre immer schwieriger werdende Aufgabe zu erfüllen. Der immens steigende Netzwerkverkehr sowie die stetig zunehmende Zahl von Cyberattacken machen es selbst für Profis unmöglich, den Überblick zu behalten. Müssten Menschen alle verdächtigen Vorfälle in den Netzwerken der Unternehmen entdecken, analysieren, bewerten und gegebenenfalls Maßnahmen einleiten, so wäre dies eine absolute Sisyphos-Arbeit. Unsere Cognito AI-Technologie, die auf künstlicher Intelligenz basiert, hat in einigen IT-Teams den Aufwand für IT-Sicherheit um den Faktor 168 reduziert.

Durch Machine Learning und künstliche Intelligenz kann zahlreichen Sicherheitsproblemen wirksam begegnet werden. Werden die Netzwerke permanent überwacht und verdächtige Vorgänge automatisch erkannt, ausgewertet und priorisiert, dann können sich die Experten den wirklich schwerwiegenden Bedrohungen widmen und Gegenmaßnahmen einleiten.“

Zudem fordert BITKOM den Datenschutz in Europa mit Blick auf KI weiterzuentwickeln. Nach Meinung des Branchenverbandes hat die Europäische Datenschutz-Grundverordnung (EU-DSGVO) die künstliche Intelligenz nicht im Blick. Die Grundverordnung muss, so BITKOM, nun nachträglich mit Blick auf deren Funktionsweisen ausgelegt werden. Dazu sei der Dialog mit den Aufsichtsbehörden und der EU-Kommission erforderlich. Unternehmen benötigten Empfehlungen und Leitfäden, wie Datenschutzvorgaben bei KI-Anwendungen am besten umzusetzen seien. Zugleich kommt der Branchenverband zu folgendem Schluss: „Eine sinnvolle Delegation von Verantwortung und die Vermeidung von organisierter Unverantwortlichkeit bleiben auch mit KI eine Herausforderung. KI wird nicht die Verantwortung für schwierige Entscheidungen übernehmen können und sollte nicht zur Verantwortungsvermeidung missbraucht werden. Entscheidungen bleiben eine menschliche Domäne – nicht immer beliebt und gerne auch abgeschoben.“

Auch hier stimmt Gérard Bauer zu: „Der Fachkräftemangel in Sachen IT-Sicherheit ist heute schon spürbar und wir in Zukunft noch dramatischer. Dennoch muss der Mensch auch in Zukunft die letzte Instanz sein, wenn es um die Entscheidung geht, wie in einer akuten Krisensituation zu verfahren ist. Bei einer Cyberattacke kann eine automatisierte Sicherheitslösung den Experten viel Arbeit abnehmen, Daten korrelieren, Erkenntnisse abgleichen und Interpretationsansätze vorschlagen – die Entscheidungshoheit bleibt aber dennoch beim Menschen, und das ist auch gut so.“

vectra.ai/dach