Was unterscheidet Explainable AI von Interpretable AI?

Beide Begriffe werden oft synonym verwendet, haben aber eine Nuance: Interpretierbarkeit beschreibt Modelle, die von Natur aus verständlich sind, etwa lineare Regression oder Entscheidungsbäume. Erklärbarkeit geht weiter und umfasst auch Methoden, die im Nachhinein (post-hoc) auf komplexe Modelle angewendet werden, um deren Entscheidungen nachvollziehbar zu machen.

Welche XAI-Methode ist die beste?

Es gibt keine universell beste Methode. Die Wahl hängt vom Modelltyp, der Zielgruppe und dem Anwendungskontext ab. SHAP bietet die konsistenteste theoretische Fundierung für tabellarische Daten, Grad-CAM ist der Standard für Bildnetze, und Aufmerksamkeitskarten sind bei Transformer-Modellen der naheliegendste Ansatz.

Gilt der EU AI Act auch für ausländische Unternehmen?

Ja. Der EU AI Act gilt für alle Unternehmen, die KI-Systeme auf dem europäischen Markt anbieten oder betreiben, unabhängig von ihrem Firmensitz. Das Marktortprinzip ist analog zur DSGVO ausgestaltet.

Können LLMs wie ChatGPT oder Claude je wirklich erklärt werden?

Vollständige Erklärbarkeit ist bei aktuellen LLMs technisch noch nicht realisierbar. Jedoch ermöglichen LLM-Observability-Tools, Aufmerksamkeitskarten und Tracing-Methoden zunehmend eine funktionale Erklärbarkeit auf Ausgabeebene. Gartner sieht hier eine der zentralen Investitionsprioritäten für den Zeitraum bis 2028.

Was kostet XAI-Implementierung?

Die Kosten variieren stark nach Unternehmensgröße, Modellkomplexität und regulatorischen Anforderungen. Open-Source-Tools wie SHAP oder LIME sind kostenfrei verfügbar. Enterprise-Governance-Plattformen werden typischerweise als SaaS lizenziert. Die eigentlichen Kosten entstehen durch Implementierung, Schulung und laufendes Monitoring.

Wurde der EU AI Act verschoben?

Teilweise. Mit dem Digital Omnibus on AI (Verordnung (EU) 2026/1744) gelten die Pflichten für Hochrisiko-Systeme nach Anhang III erst ab dem 2. Dezember 2027, für KI in regulierten Produkten ab dem 2. August 2028. Verbote, KI-Kompetenzpflicht, Regeln für General-Purpose-AI-Modelle und die Transparenzpflichten nach Artikel 50 gelten weiterhin.

Künstliche Intelligenz

Explainable AI: Warum die Erklärbarkeit von KI zum strategischen Erfolgsfaktor wird

31.07.2019

12 Min. Lesezeit

Autor:

Ulrich Parthier

Generative KI revolutioniert Unternehmen – doch ohne Transparenz bleibt Vertrauen Illusion. Explainable AI (XAI) schließt diese Lücke und wird durch den EU AI Act zur Pflicht.

Explainable AI: Warum die Erklärbarkeit von KI zum strategischen Erfolgsfaktor wird

Künstliche Intelligenz entscheidet heute darüber, ob ein Kredit genehmigt wird, ob ein Patient eine bestimmte Diagnose erhält oder ob ein Bewerber zur nächsten Runde eingeladen wird. Die Ergebnisse dieser Systeme beeinflussen Millionen von Menschen täglich. Umso drängender stellt sich eine Frage, die bislang viel zu selten gestellt wurde: Warum hat die KI so entschieden? Genau hier setzt Explainable AI – kurz XAI – an. XAI ist kein separates KI-Produkt, sondern ein Werkzeugkasten aus Methoden, Prozessen und Rahmenwerken, der die Entscheidungslogik von KI-Modellen für Menschen nachvollziehbar macht.

Die Relevanz des Themas wächst rasant. Gartner definiert XAI als eine Reihe von Fähigkeiten, die ein Modell beschreiben, seine Stärken und Schwächen hervorheben, sein wahrscheinliches Verhalten vorhersagen und potenzielle Verzerrungen (Bias) identifizieren können. Gleichzeitig prognostizieren die Analysten, dass bis 2028 die zunehmende Bedeutung von XAI die Investitionen in LLM-Observability auf 50 Prozent aller GenAI-Deployments treiben wird – heute sind es lediglich 15 Prozent. (Quelle: Gartner Pressemitteilung, März 2026)