Thought Leadership
Künstliche Intelligenz verändert nicht nur Unternehmen und Behörden, sondern zunehmend auch die Methoden von Cyberkriminellen.
Eine aktuelle Untersuchung der Sophos Counter Threat Unit (CTU) zeigt, dass KI in kriminellen Online-Foren und auf Darknet-Marktplätzen intensiv diskutiert wird. Dabei schwankt die Einschätzung zwischen großer Erwartung und deutlicher Skepsis.
Betrugsversuche werden persönlicher und automatisierter
Besonders im Bereich des Social Engineerings spielt generative KI bereits eine wichtige Rolle. Cyberkriminelle nutzen Sprachmodelle, um Phishing-Mails, Kurznachrichten oder Chatverläufe individuell auf potenzielle Opfer zuzuschneiden. Dadurch wirken Betrugsversuche oft glaubwürdiger und lassen sich in größerem Umfang durchführen.
Auch bei sogenannten Vishing-Angriffen, also Betrugsversuchen per Telefon, kommen KI-gestützte Systeme zum Einsatz. Diese können Stimmen, Sprachmuster und Gesprächsverläufe imitieren, um Vertrauen zu erzeugen. Darüber hinaus werden Werkzeuge angeboten, die künstlich erzeugte Identitäten für Romance-Scams erstellen und dabei sowohl Bilder als auch individuelle Kommunikation automatisiert erzeugen.
KI hält Einzug in technische Angriffswerkzeuge
Neben Betrugsmaschen wird KI zunehmend auch für technische Angriffe genutzt. Laut Sophos werben verschiedene Akteure in Untergrundforen mit Anwendungen, die Schadsoftware erstellen, Sicherheitsanalysen automatisieren oder gestohlene Daten effizienter auswerten sollen.
Zu den diskutierten Werkzeugen gehören Plattformen zur automatisierten Analyse großer Datenmengen, KI-basierte Systeme zur Erstellung von Schadcode sowie Assistenten, die Schwachstellen identifizieren und mögliche Angriffspfade aufzeigen können. Wie leistungsfähig viele dieser Angebote tatsächlich sind, lässt sich derzeit allerdings nur schwer überprüfen.
Ein Teil dieser Werkzeuge greift auf bekannte KI-Dienste zurück. Deshalb werden in kriminellen Kreisen auch Zugangsdaten und API-Schlüssel kommerzieller KI-Plattformen gehandelt. Gleichzeitig versuchen Angreifer, bestehende Sicherheitsmechanismen solcher Systeme durch sogenannte Jailbreaking-Techniken zu umgehen.
Nicht alle Cyberkriminellen begrüßen die Entwicklung
Trotz des wachsenden Interesses an KI herrscht innerhalb der Cybercrime-Szene keine einheitliche Meinung. Während einige Akteure die Technologie als Chance für effizientere und skalierbare Angriffe sehen, befürchten andere langfristige Folgen für bestehende kriminelle Geschäftsmodelle.
In verschiedenen Foren wird diskutiert, ob KI bestimmte Tätigkeiten künftig weitgehend automatisieren könnte. Dadurch könnten klassische Dienstleistungen wie die Entwicklung von Schadsoftware oder bestimmte Formen des Social Engineerings an Bedeutung verlieren.
Unternehmen sollten sich auf neue Angriffsmuster einstellen
Die Analyse von Sophos zeigt, dass KI-gestützte Angriffe bereits Realität sind, auch wenn sich viele Anwendungen noch in einer frühen Entwicklungsphase befinden. Durch die Kombination aus Automatisierung, Anpassungsfähigkeit und hoher Geschwindigkeit könnten bestehende Bedrohungen weiter zunehmen.
Um sich besser zu schützen, empfehlen die Sophos-Forscher grundlegende Sicherheitsmaßnahmen wie regelmäßige Software-Updates, Multi-Faktor-Authentifizierung und den Einsatz moderner Anmeldeverfahren. Ebenso wichtig sind die kontinuierliche Überwachung von IT-Systemen sowie die Sensibilisierung von Mitarbeitenden für neue Betrugsformen, etwa KI-generierte Phishing-Nachrichten oder täuschend echte Sprachfälschungen.
Die Untersuchung der Sophos CTU macht deutlich, dass Künstliche Intelligenz zunehmend Einfluss auf die Cyberkriminalität nimmt. Gleichzeitig zeigt sich aber auch, dass die Technologie innerhalb der Szene noch nicht unumstritten ist und ihre langfristigen Auswirkungen weiterhin offen sind.
(red/Sophos)
