Thought Leadership
Generative KI revolutioniert Unternehmen – doch ohne Transparenz bleibt Vertrauen Illusion. Explainable AI (XAI) schließt diese Lücke und wird durch den EU AI Act zur Pflicht.
Künstliche Intelligenz entscheidet heute darüber, ob ein Kredit genehmigt wird, ob ein Patient eine bestimmte Diagnose erhält oder ob ein Bewerber zur nächsten Runde eingeladen wird. Die Ergebnisse dieser Systeme beeinflussen Millionen von Menschen täglich. Umso drängender stellt sich eine Frage, die bislang viel zu selten gestellt wurde: Warum hat die KI so entschieden? Genau hier setzt Explainable AI – kurz XAI – an. XAI ist kein separates KI-Produkt, sondern ein Werkzeugkasten aus Methoden, Prozessen und Rahmenwerken, der die Entscheidungslogik von KI-Modellen für Menschen nachvollziehbar macht.
Die Relevanz des Themas wächst rasant. Gartner definiert XAI als eine Reihe von Fähigkeiten, die ein Modell beschreiben, seine Stärken und Schwächen hervorheben, sein wahrscheinliches Verhalten vorhersagen und potenzielle Verzerrungen (Bias) identifizieren können. Gleichzeitig prognostizieren die Analysten, dass bis 2028 die zunehmende Bedeutung von XAI die Investitionen in LLM-Observability auf 50 Prozent aller GenAI-Deployments treiben wird – heute sind es lediglich 15 Prozent. (Quelle: Gartner Pressemitteilung, März 2026)
Was ist Explainable AI? Definition und Abgrenzung
Explainable AI bezeichnet den Einsatz von Methoden und Techniken, die dafür sorgen, dass die Ausgaben und Entscheidungswege von KI-Modellen für menschliche Nutzer transparent und nachvollziehbar werden. Das US-amerikanische National Institute of Standards and Technology (NIST) formuliert dafür vier Leitprinzipien: Erstens die Erklärung selbst, also begleitende Belege oder Gründe für alle Ausgaben. Zweitens die Verständlichkeit der Erklärung für die jeweilige Zielgruppe. Drittens die Erklärungsgenauigkeit, die sicherstellt, dass die Erklärung den tatsächlichen Modellprozess widerspiegelt. Und viertens den angemessenen Wissensstand, der berücksichtigt, dass das System nur innerhalb seiner Kenntnisse und Designgrenzen erklärt.
Dieser Beitrag ist nur für Mitglieder sichtbar
Du brauchst das it-daily Plus-Abo, um auf diesen Inhalt zuzugreifen.
