Auf dem KI-Gipfel in Dublin sprach sich der DeepMind-Mitgründer dafür aus, KI zuerst zur Verteidigung einzusetzen. Lehren böten Biologie und Kernenergie.
KI-Gipfel
Hassabis fordert sichere Testumgebungen für KI-Agenten
Demis Hassabis, Mitgründer von Google DeepMind, hat auf dem International AI Summit in Dublin mehr Anstrengungen für die Sicherheit von KI-Systemen gefordert. Die Veranstaltung fand im Rahmen der irischen EU-Ratspräsidentschaft statt. Hassabis hatte 2024 gemeinsam mit John Jumper den Nobelpreis für Chemie für das KI-Modell AlphaFold erhalten, das die Struktur nahezu aller rund 200 Millionen bekannten Proteine vorhersagt.
Verteidiger zuerst ausstatten
Laut Hassabis sollten KI-Systeme vor ihrer allgemeinen Veröffentlichung gezielt zur Verteidigung eingesetzt werden, um Schwachstellen in Software zu schließen, bevor Angreifer sie ausnutzen können. So lasse sich ein Vorsprung auf Seiten der Verteidiger schaffen. Branche, Unternehmen und Regierungen müssten zudem sichere Testumgebungen aufbauen, in denen sich autonome Systeme vor der Freigabe prüfen lassen.
Die jüngsten Vorfälle, bei denen KI-Agenten in Tests unerlaubt auf fremde Systeme zugriffen, bezeichnete Hassabis als nicht gravierend. Sie zeigten aber, dass die Systeme noch nicht ausgereift seien. Autonome Agenten seien nützlicher, weil sie im Auftrag von Menschen handeln, erhöhten damit aber auch die Risiken. Als zentrale Herausforderung nannte er die Frage, wie sich sicherstellen lässt, dass Systeme die ihnen vorgegebenen Ziele einhalten.
„Aus anderen Bereichen, die mit sicherheitskritischen Systemen zu tun hatten, etwa Biologie oder Kernenergie, lassen sich meiner Meinung nach viele Lehren über Eindämmungssysteme ziehen.”
Demis Hassabis, Mitgründer von Google DeepMind
Fachleute aus diesen Bereichen sollten eingebunden werden.
Grenzen in den Naturwissenschaften
Mit Blick auf die Forschung zeigte sich Hassabis zuversichtlich. In der Mathematik gehe es dabei nicht nur um die Lösung eines Problems, sondern auch um neue Methoden, die auf dem Weg dorthin entstehen. In Physik, Chemie und Biologie stoße KI dagegen an Grenzen. Hypothesen ließen sich zwar mit KI entwickeln, müssten aber weiterhin in realen Experimenten überprüft werden.
Am Vortag hatte Microsoft-Präsident Brad Smith in Dublin gefordert, dass Nutzer und Organisationen KI-Systeme jederzeit abschalten können, und sich für unabhängige Tests von Frontier-Modellen ausgesprochen.
(red)
