Brad Smith fordert Notbremse für KI bei jedem Nutzer

Microsoft-Präsident Brad Smith hat gefordert, dass Nutzer und Organisationen KI-Systeme jederzeit abschalten können. Das sagte er vor Journalisten in Dublin im Vorfeld des internationalen KI-Gipfels unter irischer EU-Ratspräsidentschaft. Eine solche Notbremse sei nicht nur im Labor nötig, sondern für jeden Privatnutzer und jedes Unternehmen. Sie solle so nah wie möglich am Nutzer des Systems angesiedelt sein.

„Wir sollten die Möglichkeit haben, die KI, die gerade läuft, abzuschalten, zumal Anthropic begonnen hat, die Welt vor abtrünnigen Agenten oder KI-Würmern zu warnen, die Haushaltsgeräte übernehmen könnten.”
Brad Smith, Microsoft-Präsident

Anthropic hatte in einem Forschungsbeitrag beschrieben, dass sich außer Kontrolle geratene KI-Modelle künftig selbst vervielfältigen und etwa auf schlecht gesicherten Geräten wie vernetzten Kühlschränken oder Öfen ausbreiten könnten. In welcher Form das geschehen würde, sei ungewiss. Neben Unternehmen müssten laut Smith nun auch Regierungen mehr für die KI-Sicherheit tun.

Kritik an selbst gewählten Prüfern

Smith sprach sich zudem für unabhängige Tests von Frontier-Modellen aus. Im Silicon Valley herrsche derzeit die Haltung, Prüfer selbst auszuwählen und zu bezahlen. Das sei kein Rezept für eine unabhängige und wirksame Bewertung. Ergebnisse solcher Prüfungen müssten öffentlich gemacht werden, damit andere davon lernen können. Üblicherweise arbeiteten Prüfer für den öffentlichen Sektor oder würden von ihm eng gesteuert. Laut Reuters haben Anthropic und OpenAI erheblichen Einfluss darauf verlangt, was externe Prüfer veröffentlichen dürfen, da die Unternehmen befürchten, dass vertrauliche Informationen an Wettbewerber gelangen.

Irland führt bei KI-Nutzung in Europa

Zu den wirtschaftlichen Folgen sagte Smith, KI könne angesichts alternder Bevölkerungen zu mehr Produktivität beitragen. Sechs der zehn Länder mit der höchsten KI-Nutzung pro Kopf lägen in Europa. Irland stehe weltweit auf Platz drei und in Europa an der Spitze, mit einem Anteil von 49 Prozent. Die Vorteile von KI müssten jedoch breiter verteilt werden. Entscheidend für die Zukunft der Arbeit sei, ob die Menschen, die KI nutzen, selbst von ihrem Wissen profitieren oder ob ihr Know-how vor allem in das Training von KI-Modellen fließt.

(red)