Mehrheit der Spam-Mails ist mittlerweile KI generiert

Eine aktuelle Studie zeigt, dass ein Großteil aller Spam-E-Mails mittlerweile von KI und nicht von Menschen generiert wird.

Wie eine aktuelle Studie der Universitäten Columbia und Chicago auf Basis der Bedrohungserkennungsdaten von Barracuda zeigt, nutzen E-Mail-Betrüger zunehmend KI-Tools, um Spam-E-Mail-Kampagnen im großen Maßstab zu erstellen und durchzuführen, anstatt zielgerichtete Angriffe durchzuführen. Die Ergebnisse der Studie zeigen, dass mittlerweile 51 Prozent aller Spam-Nachrichten von künstlicher Intelligenz (KI) generiert werden, im Vergleich zu 14 Prozent aller Business-E-Mail-Compromise-Angriffe (BEC) – wobei in beiden Fällen KI immer häufiger genutzt wird.

Die Forscher der Universitäten analysierten einen von Barracuda bereitgestellten Datensatz von unerwünschten und schädlichen E-Mails aus dem Zeitraum von Februar 2022 bis April 2025.

Die Ergebnisse der Analyse:

• Bis April 2025 wurden 51 Prozent der Spam-E-Mails nicht von Menschen, sondern von KI generiert.
• Bis April 2025 wurden 14 Prozent der BEC-Angriffe von KI generiert.
• Seit dem Launch von ChatGPT im November 2022 lässt sich ein stetiger Anstieg von KI-generierten Inhalten sowohl bei Spam- als auch bei BEC-Angriffen feststellen.
• KI-generierte E-Mails sind in der Regel formeller, sprachlich anspruchsvoller und weisen weniger Grammatikfehler auf als von Menschen verfasste E-Mails.
• Angreifer scheinen KI zu nutzen, um Wortvarianten zu testen und herauszufinden, welche davon sich besser eignen, um Abwehrmechanismen zu umgehen und mehr Empfänger zum Klicken auf Links zu bewegen.
• Angreifer scheinen KI in erster Linie dazu zu nutzen, den Inhalt ihrer E-Mails zu perfektionieren, und nicht, um ihre Angriffstaktiken zu ändern.

„Festzustellen, ob oder wie KI bei Cyberangriffen genutzt wird, ist eine große Herausforderung, da wir nur den Angriff selbst sehen, aber nicht, wie der Angriff generiert wurde“, sagt Asaf Cidon, Associate Professor of Electrical Engineering and Computer Science an der Universität Columbia. „Unsere Analyse deutet darauf hin, dass im Zeitraum bis April 2025 ein Großteil der Spam-E-Mails nicht von Menschen, sondern von KI generiert wurde. Bei komplexeren Angriffen wie BEC, bei denen Inhalte sorgfältiger auf den Kontext des potenziellen Opfers abgestimmt werden müssen, werden die meisten E-Mails nach wie vor von Menschen verfasst. Der Anteil der von KI generierten E-Mails nimmt jedoch stetig und kontinuierlich zu.“

Der Ansatz der Forscher zur Erkennung von KI-Einsatz basierte auf der Annahme, dass E-Mails, die vor dem Launch von ChatGPT im November 2022 versendet wurden, wahrscheinlich von Menschen verfasst wurden. Auf diese Weise konnten sie eine Ausgangsbasis festlegen und Erkennungssysteme trainieren, damit diese automatisch erkennen, ob eine unerwünschte oder schädliche E-Mail mithilfe von KI generiert wurde.

Zur Abwehr von sich kontinuierlich weiterentwickelnden E-Mail-Bedrohungen empfiehlt Barracuda die Implementierung eines fortschrittlichen, mehrschichtigen und KI-gestützten E-Mail-Schutzes in Kombination mit Cybersicherheitsschulungen für Mitarbeiter, damit diese über die neuesten Cyberbedrohungen und Taktiken von Cyberangreifern informiert sind.

Die ausführliche Studie sollte hier zu finden sein. 

(ds/Barracuda)