Thought Leadership
Künstliche Intelligenz entwickelt sich zunehmend von einem reinen Analysewerkzeug hin zu Systemen, die menschliches Verhalten interpretieren und beeinflussen können.
Experten von Kaspersky warnten auf der Konferenz Kaspersky Horizons in Rom davor, dass sogenannte kognitive KI-Systeme neue Sicherheitsrisiken schaffen – nicht nur im digitalen Raum, sondern auch für gesellschaftliche Prozesse und menschliche Entscheidungsfreiheit.
Zwar könne KI derzeit keine Gedanken direkt lesen, doch moderne Systeme seien bereits heute in der Lage, Meinungen, Entscheidungen und Verhalten gezielt zu beeinflussen.
Von Datenanalyse zu Verhaltenssteuerung
Empfehlungsalgorithmen, personalisierte Inhalte und datengetriebene Verhaltensanalysen gehören längst zum Alltag digitaler Plattformen. Laut den Forschern des Kaspersky Global Research and Analysis Teams (GReAT) entsteht dadurch ein grundlegender Wandel: KI verarbeitet nicht mehr nur Informationen, sondern interagiert zunehmend mit menschlicher Kognition.
Besonders problematisch wird das dort, wo Systeme emotionale Reaktionen, psychologische Muster oder individuelle Schwächen analysieren und gezielt ausnutzen können.
Vier zentrale Bedrohungen im Fokus
Die Sicherheitsforscher sehen vor allem vier Bereiche, in denen kognitive KI künftig erhebliche Risiken verursachen könnte.
Manipulatives Social Engineering wird präziser
Bereits heute nutzen Cyberkriminelle KI-Modelle, um täuschend echte Phishing-Mails oder gefälschte Webseiten zu erstellen. Durch Verhaltensanalysen und umfangreiche Datenauswertungen können Betrugsversuche immer stärker personalisiert werden.
Angriffe wirken dadurch glaubwürdiger, emotionaler und schwerer zu erkennen. Laut Kaspersky dient Phishing inzwischen häufig als Einstiegspunkt für komplexe Cyberangriffe.
KI kann öffentliche Meinungen gezielt beeinflussen
Neben einzelnen Betrugsfällen wächst auch die Gefahr groß angelegter Manipulationskampagnen. KI-Systeme können emotionale Trigger, politische Einstellungen oder gesellschaftliche Konflikte analysieren und gezielt verstärken.
Soziale Netzwerke zeigen bereits heute, wie algorithmische Systeme Polarisierung fördern und Echokammern verstärken können. Mit immer präziseren Analysemodellen steigt das Risiko, dass öffentliche Debatten oder gesellschaftliche Meinungsbildung gezielt gesteuert werden.
Psychologische Profile schaffen neue Missbrauchsformen
Ein weiterer Schwerpunkt liegt auf KI-gestütztem Profiling. Durch die Verknüpfung von Daten aus sozialen Netzwerken, Online-Verhalten und weiteren digitalen Quellen entstehen immer detailliertere Persönlichkeitsprofile.
Dadurch wächst nicht nur das Risiko von Doxxing oder Identitätsmissbrauch. Künftig könnten Menschen zunehmend anhand vorhergesagter Verhaltensmuster bewertet werden, statt nach tatsächlichem Verhalten.
Die Kontrolle über die eigene digitale Identität könnte damit weiter verloren gehen.
Gehirn-Computer-Schnittstellen eröffnen neue Angriffsflächen
Noch futuristischer erscheinen sogenannte Brain-Computer Interfaces (BCIs), die neuronale Signale auslesen und zur Steuerung digitaler Systeme nutzen. Erste Anwendungen existieren bereits etwa im medizinischen Bereich oder zur Unterstützung von Menschen mit Einschränkungen.
Mit der Verbindung solcher Schnittstellen zum Internet der Dinge entstehen jedoch völlig neue Sicherheitsfragen. Kompromittierte Systeme könnten theoretisch neuronale Signale manipulieren oder externe Geräte über Gehirn-Schnittstellen beeinflussen.
Damit würden Cyberangriffe künftig nicht nur Daten oder Systeme betreffen, sondern potenziell auch menschliche Handlungen.
Experten fordern Regulierung und gemeinsame Standards
Noushin Shabab vom GReAT-Team von Kaspersky betont, dass kognitive KI zwar noch am Anfang stehe, sich aber rasant weiterentwickle. Deshalb müsse frühzeitig über Sicherheitsmechanismen und Regulierung nachgedacht werden.
Auch die Journalistin und KI-Expertin Teresa Potenza warnte auf der Veranstaltung vor den gesellschaftlichen Folgen. Ihrer Einschätzung nach liegt die größte Gefahr darin, dass KI menschliches Denken unbemerkt beeinflussen könne. Regulierung müsse deshalb nicht nur Datenschutz berücksichtigen, sondern auch die menschliche Entscheidungsfreiheit und demokratische Prozesse schützen.
