Neues KI-Governance-Modell orientiert sich an Enzyklika von Papst Leo

Ein in der Fachzeitschrift AI and Ethics veröffentlichtes akademisches Modell zur Steuerung künstlicher Intelligenz orientiert sich an den Grundprinzipien der Enzyklika „Magnifica Humanitas“ von Papst Leo XIV.

Das Modell verschiebt den Fokus dabei bewusst weg von der Frage, welche Institutionen die KI-Entwicklung kontrollieren sollen, hin zu der Frage, wie sich KI grundsätzlich in den Dienst des Menschen stellen lässt.

Das vorgeschlagene System sieht unter anderem eine fortlaufende, unabhängige Überprüfung sowie Aufsichtsstrukturen vor, an denen auch Vertreter betroffener Gemeinschaften beteiligt sind. Nach Einschätzung der beteiligten Forscher handelt es sich um einen der ersten akademischen Versuche, KI-Governance-Architekturen formal mit einer umfassenden gesellschaftlichen Lehre in Einklang zu bringen. Angesichts der zunehmenden Durchdringung ziviler und wirtschaftlicher Infrastruktur durch KI-Systeme soll das Modell eine strukturierte Alternative zu bislang eher fragmentierten regulatorischen Ansätzen bieten, mit Schwerpunkt auf dauerhafter Aufsicht und ethischer Kontinuität statt auf reiner technologischer Beschleunigung.

Hintergrund: Erste Enzyklika eines Papstes zu einer einzelnen Technologie

Papst Leo XIV. hatte seine 82-seitige Enzyklika „Magnifica Humanitas: Über die Bewahrung der menschlichen Person im Zeitalter der Künstlichen Intelligenz“ am 25. Mai 2026 im Vatikan vorgestellt, unterzeichnet bereits am 15. Mai, dem 135. Jahrestag von Papst Leo XIII.s „Rerum novarum“. Es ist damit die erste Enzyklika der Kirchengeschichte, die sich derart systematisch mit einer einzelnen Technologie befasst. Der Papst warnte darin, KI berge das Risiko, Ungleichheit zu vertiefen, menschliche Beziehungen zu schwächen sowie Macht in wenigen Händen zu konzentrieren, sofern sie nicht durch ethische Aufsicht geleitet werde, und forderte, KI müsse „entwaffnet“ werden. Er erklärte zudem: Es reiche nicht aus, sich abstrakt auf Ethik zu berufen. Notwendig seien stattdessen robuste rechtliche Rahmenwerke, unabhängige Aufsicht sowie informierte Nutzer.

Bemerkenswert an der Vorstellung der Enzyklika im Vatikan war die Beteiligung von Christopher Olah, Mitgründer des US-amerikanischen KI-Unternehmens Anthropic, das der Vatikan im Rahmen seiner seit langem laufenden Bemühungen einband, das Silicon Valley in einen Dialog über die menschlichen Kosten von KI einzubeziehen. Olah begrüßte die Kritik und Besorgnis des Papstes und erklärte, derartige externe Kontrollen der KI und der dahinterstehenden Forscher seien grundlegend dafür, dass die Technologie der Menschheit tatsächlich zugutekomme, angesichts einer realen Möglichkeit, dass KI menschliche Arbeit in sehr großem Umfang verdrängen könnte.

Fortsetzung des Themas bei weiteren Anlässen

Papst Leo XIV. griff das Thema seither wiederholt auf, zuletzt am 28. August bei einem Treffen mit internationalen Verwaltungswissenschaftlern im Vatikan, bei dem er erneut ethische Rahmenwerke für die Steuerung von KI forderte und davor warnte, dass Entscheidungen zunehmend an Maschinen delegiert würden. Das nun veröffentlichte akademische Governance-Modell soll nach Einschätzung der beteiligten Forscher künftige politische Debatten mitprägen und Institutionen eine wiederverwendbare Vorlage bieten, um Innovation mit grundlegenden Menschenrechten in Einklang zu bringen.

(red)