Wie KI Verantwortung neu definiert

Künstliche Intelligenz (KI) verändert derzeit nahezu alle Bereiche der Wirtschaft und Gesellschaft – von der Automatisierung alltäglicher Aufgaben bis hin zu strategischen Entscheidungsprozessen.

Unternehmen stehen vor der Herausforderung, Chancen und Risiken dieser Technologie gleichermaßen zu verstehen und verantwortungsvoll zu nutzen. Dabei geht es längst nicht mehr nur um Effizienz, sondern auch um Fragen der Transparenz, Ethik und Zukunftsfähigkeit.

Im Gespräch mit Ulrich Parthier verrät Lumir Boureanu, Geschäftsführer von compacer, was man gegen KI-Halluzinationen tun kann, warum KI nichts mit Wissen zu tun hat und weshalb es in Zukunft trotz aller Herausforderungen nicht mehr ohne KI gehen wird.

Ulrich Parthier: Immer öfter sieht man sich heute mit dem Einsatz von KI konfrontiert – sei es bei der Internetrecherche, der Nutzung von Softwarelösungen oder Analyse-Tools. Wo sehen Sie derzeit den größten Nutzen von KI?

Lumir Boureanu: KI ist dort am wertvollsten, wo die menschlichen Kapazitäten an ihre Grenzen stoßen, beispielsweise bei der Mustererkennung. Hier kann KI Unsichtbares sichtbar machen. Oder bei extrem voluminösen Aufgabenstellungen, etwa wenn große Datenmengen oder Texte – z.B. komplexe Verträge – analysiert werden. Spürbar sind die positiven Effekte von KI aber auch bei repetitiven Tätigkeiten, beispielsweise der Erstellung von Protokollen oder dem Zusammenfassen bzw. Übersetzen von Texten.

Kurz gesagt, der größte Nutzen von KI ist nicht, dass sie Dinge kann, die wir nicht können. Vielmehr schafft sie Freiraum für Dinge, die nur wir können: kreativ und empathisch sein, strategisch zu denken. Klar hilft uns KI bei der Erstellung von Prognosen und sie lernt auch dazu, aber KI ist kein Ersatz für das Wissensmanagement der Unternehmen. Das muss man unbedingt unterscheiden.

Ulrich Parthier: Das klingt alles gut. Dennoch gibt es Bedenken, was den Umgang mit KI betrifft.

Lumir Boureanu: Das stimmt. KI ist kein Selbstzweck, sondern ein Werkzeug für nachhaltigen Geschäftserfolg – aber nur, wenn die Unternehmen jetzt die richtigen Weichen stellen. Man muss abwägen, welche Risiken man im Umgang mit KI eingehen kann und welche nicht. Auch die Datenvalidität spielt dabei eine wichtige Rolle. Für entscheidend halte ich aber, dass die Unternehmen bei Ihren KI-Projekten die Menschen mitnehmen müssen, insbesondere deshalb, weil eine zunehmende Change Müdigkeit zu beobachten ist. Man muss die Ängste der Menschen ernst nehmen und darf nicht ignorieren, dass sich der ein oder andere von KI durchaus überfordert fühlt.

Ulrich Parthier: Und wenn KI auch noch zu halluzinieren beginnt und man sich nicht sicher ist, ob stimmt, was sie sagt – verstärkt das nicht noch die Ängste der Menschen?

Lumir Boureanu: Klar, denn sind wir mal ehrlich: Agentic AI ist ein bisschen wie`Stille Post´. Man gibt vorne etwas in das System rein und hinten kommt etwas raus. Was dazwischen passiert, ist nicht immer nachvollziehbar und das ist problematisch. Deshalb empfehle ich das 4-Augen-Prinzip: Die KI schlägt etwas vor und der Mensch validiert. Damit dieses Prinzip erfolgreich ist, sollte man KI in der Breite nutzen und sich auf den Menschen verlassen, wenn es in die Tiefe geht. Derartige Guidelines helfen, KI bestmöglich einzusetzen.

Ulrich Parthier: Erklären Sie uns bitte den Unterschied, zwischen einer KI, die arbeitet und entscheidet und dem Agieren eines Menschen.

Lumir Boureanu: Ganz wichtig: KI verfügt nicht über `Wissen´ im menschlichen Sinne. Ein Beispiel: Wenn die KI sagt, dass Wasser bei 100 Grad kocht, dann hat KI diese Aussage millionenfach in Texten gesehen. Wenn der Mensch sagt, dass Wasser bei 100 Grad kocht, versteht er den physikalischen Zusammenhang. Also – KI versteht nicht, was sie sagt. Sie erkennt lediglich Muster, kann die statistisch wahrscheinlichste Antwort ermitteln, kann aber nicht beurteilen, ob diese wahr oder falsch ist. Sehen Sie den Unterschied? Und weil die KI auf Informationen, sprich Daten, zurückgreift ist es so entscheidend, dass diese Daten valide sind, denn die KI ist nicht in der Lage ihre Fehlerhaftigkeit zu erkennen und korrigieren.

Ulrich Parthier: Das klingt ziemlich komplex. Haben wir als Menschen denn überhaupt eine Chance die von KI vorgeschlagenen Ergebnisse richtig einzuschätzen und zu bewerten?

Lumir Boureanu: Wir haben nicht nur eine Chance. Wir haben sogar einen Vorteil, wenn wir die richtigen Tools und Methoden nutzen, denn wir besitzen Superkräfte. Wir können Kontexte verstehen. Wir haben ein Bauchgefühl. Wir haben ein ethisches Wertegerüst und wir sind kreativ. All das kann KI nicht, aber sie kann uns unterstützen. Wir müssen keine KI-Experten werden, aber KI-Kompetenz erlangen. Das ist wie beim Autofahren – da muss man auch kein Mechaniker sein, aber die Verkehrsregeln kennen und wissen, wie ein Auto zu steuern ist. Dieses Beispiel zeigt, dass Technologie immer dann am besten ist, wenn man sie nicht mehr wahrnimmt.

Ulrich Parthier: Und dann kommt noch das Thema Cybersicherheit dazu. Dabei sind die Herausforderungen, die KI mit sich bringt, groß genug.

Lumir Boureanu: Cybersicherheit ist keine Nebensache, sondern integraler Bestandteil jeder KI-Strategie. Sie funktioniert wie eine Versicherung: Man braucht sie bevor man sie braucht. Gleichzeitig darf Sicherheit niemals der Grund sein, auf den Einsatz von KI zu verzichten. Entscheidend ist, klare Regeln und Leitplanken für den verantwortungsvollen, sicheren und effektiven KI-Einsatz festzulegen. Denn eines können wir schon heute beobachten: In 70 Prozent der Unternehmen existiert bereits heute eine Schatten-KI. Warum? Weil Menschen ChatGPT beruflich nutzen – mit oder ohne Erlaubnis von oben. Schon allein deshalb ist Eile geboten. Die IT muss sich als Verbündete der Mitarbeiter sehen und KI fördern und nicht verhindern.

Ulrich Parthier: Noch eine letzte Frage: Wenn das Thema KI so komplex und dynamisch ist, worauf sollten Unternehmen denn besonders achten, wenn sie auf KI setzen?

Lumir Boureanu: Wir von compacer haben einen breiten Erfahrungsschatz im Umgang und Einsatz von KI und verweisen bei der KI-Adaption auf die 70-10-20-Regel. Demnach hängen 70 Prozent des Erfolgs von der Vorbereitung – also der Datenqualität und den Prozessen – ab, 20 Prozent von der Technologieauswahl und 10 Prozent von der Implementierung. Und obwohl der Erfolgsschlüssel in der Vorbereitung liegt, fokussieren sich die meisten Unternehmen auf die Technologie. Mein Tipp: Bauen Sie KI Champions auf, veröffentlichen Sie bei der Umsetzung eines KI-Projekts innerhalb der ersten 30 Tage Quick-Wins und investieren Sie dreimal so viel Geld in den Change Prozess und Trainings wie in die KI-Technologie. Lassen Sie mich abschließend sagen, dass KI keine Strategie ist, sondern eine flankierende Maßnahme, dass KI-Kompetenz die Grundkompetenz der Zukunft ist und sich die Unternehmen auch mal mit einer 80-Prozent-Lösung zufriedengeben sollen, anstatt am Perfektionismus festzuhalten und den Anschluss zu verpassen. Mut ist gefragt und Pragmatismus, aber auch die Fähigkeit, KI als Unterstützung und nicht als Ersatz für den Menschen zu sehen.

Ulrich Parthier: Herr Boureanu, vielen Dank für das Gespräch.