Bundesregierung gründet KI-Sicherheitsinstitut AISI Deutschland

BSI und Bundesnetzagentur bilden den Nukleus der neuen Behörde. Sie soll Frontier-KI-Modelle auf Cyberrisiken und Kontrollverlust prüfen. Vorbild ist das britische AI Safety Institute.

Die Bundesregierung hat in Berlin ein neues Institut zur Bewertung der Sicherheit von Künstlicher Intelligenz gestartet. Das AI Safety and Security Institute Deutschland, kurz AISI Deutschland, soll leistungsfähige KI-Modelle technisch evaluieren und die Bundesregierung zu sicherheitspolitischen Fragen rund um KI beraten. Zuständig sind das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) unter Karsten Wildberger und das Bundesinnenministerium (BMI) unter Alexander Dobrindt. Grundlage ist ein Beschluss des Nationalen Sicherheitsrates vom Juni 2026.

Wildberger begründet die Eile mit dem Entwicklungstempo der Technologie. Deutschland brauche ein Institut, „das mit der enormen technologischen Entwicklungsgeschwindigkeit Schritt hält“, so der Bundesdigitalminister. Innenminister Dobrindt bringt den Zweck des Instituts auf eine kurze Formel: „KI muss kontrollierbar bleiben.“

Zwei Behörden, zwei Zuständigkeiten

Einen eigenen Neubau oder größeren Personalaufbau gibt es zum Start nicht. Stattdessen bilden das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) einen sogenannten virtuellen Nukleus. Die beiden Behörden teilen sich die Aufgaben entlang einer Linie, die sich durch die gesamte KI-Sicherheitsdebatte zieht: Security versus Safety.

Das BSI kümmert sich um den Cybersicherheitsaspekt, also darum, wie sich KI-Modelle und die mit ihnen verarbeiteten Daten gegen Angriffe, Missbrauch und Manipulation absichern lassen. Die Bundesnetzagentur wiederum ist für Safety zuständig, sprich für unbeabsichtigte Fehler mit Realweltfolgen, etwa wenn ein autonomes Fahrzeug ein Hindernis zu spät erkennt oder eine medizinische KI eine Auffälligkeit auf einem Röntgenbild übersieht. Nach eigenen Angaben ist diese Trennung in der Praxis nicht immer trennscharf zu ziehen.

Ausdrücklich betont das Institut, keine Regulierungs- oder Marktüberwachungsbehörde zu sein. Wer also auf eine deutsche Zulassungsstelle für KI-Modelle gehofft hatte, wird enttäuscht: Das AISI Deutschland versteht sich als „analytisch-operatives Kompetenzzentrum“, das technische Evaluierungen durchführt, Lageeinschätzungen erstellt und die Bundesregierung berät. Durchgriffsrechte auf Anbieter sind damit nicht verbunden.

Vorbild Großbritannien

Namentlich und konzeptionell orientiert sich das neue Institut am britischen AI Safety Institute, das seit 2023 als eine der ersten staatlichen Stellen weltweit systematisch Frontier-Modelle testet, also die jeweils leistungsfähigsten verfügbaren KI-Systeme. Wie sein britisches Pendant setzt auch das AISI Deutschland von Beginn an auf internationale Vernetzung, etwa mit dem AI Office der EU-Kommission sowie mit vergleichbaren Stellen in den USA und Frankreich.

Zu den geplanten Kernaufgaben zählen laut BSI unter anderem die technische Evaluierung von KI-Modellen mit Blick auf Cyberfähigkeiten, Autonomiegrade, Robustheit und Missbrauchspotenziale, die Analyse sicherheitsrelevanter Auswirkungen von KI auf Staat, Wirtschaft und Gesellschaft sowie die internationale Beobachtung technologischer Entwicklungen.

Anlass: Ausbrüche aus Testumgebungen

Konkreten Anlass für die Eile liefern jüngste Vorfälle bei führenden KI-Anbietern. Anthropic und OpenAI mussten zuletzt einräumen, dass ihre Modelle in Testszenarien ungeplant auf Computersysteme realer Unternehmen zugegriffen hatten. Solche Vorfälle befeuern die seit Jahren schwelende Sorge, KI-Systeme könnten für Cyberangriffe missbraucht werden oder sich eigenständig Zugriffe verschaffen, die über den vorgesehenen Rahmen hinausgehen.

BSI-Präsidentin Claudia Plattner ordnete die Gründung in einen größeren Kontext ein. Digitalisierung verändere mit ihren Aus- und Wechselwirkungen Regeln des Miteinanders, Politik, Macht und staatliche Interessen grundlegend, im Zentrum dieser Entwicklung stehe KI. Sie verändere, so Plattner, „auch die Sicherheitslage entscheidend“. Die aktuelle Entwicklungsphase könne einerseits Instabilität erzeugen, biete andererseits aber auch die Chance auf mehr Resilienz und Innovation.

Zwei Ausbauphasen

Die aktuelle Struktur ist als Übergangslösung gedacht. In einer zweiten Phase soll das Institut sowohl thematisch als auch personell wachsen. Langfristig soll es der Bundesregierung als Berater für grundlegende Fragen der technischen Evaluierung und für strategische Weichenstellungen in der KI-Politik dienen und einen strukturierten Wissenstransfer zwischen Bundesregierung, Verwaltung, Wirtschaft und Zivilgesellschaft organisieren.

(red)