Thought Leadership
Viel wurde in den vergangenen Monaten über generative KI und deren Auswirkungen auf Phishing diskutiert. Die Red Team Forscher von IBM X-Force warnen nun davor, dass KI-generierte Phishing-E-Mails fast genauso überzeugend sind wie von Menschen erstellte und in einem Bruchteil der Zeit erstellt werden können
Die Red Team Forscher von IBM X-Force warnen nun davor, dass KI-generierte Phishing-E-Mails fast genauso überzeugend sind wie von Menschen erstellte und in einem Bruchteil der Zeit erstellt werden können. Die Forscher haben ChatGPT eingesetzt, um einen Phishing-Köder zu erstellen und diesen anschließend an echten Mitarbeitern getestet. Sie stellten fest, dass der von Menschen erstellte Phishing nur drei Prozent erfolgreicher war als der von der KI erzeugte.
IBM schlussfolgert, dass mit technologischem Fortschritt KI immer raffinierter werden wird und eines Tages vielleicht sogar den Menschen übertrifft. Die Forscher betonen, dass Unternehmen ihre Mitarbeiter darüber aufklären sollten, dass KI-generierte Phishing-E-Mails eine einwandfreie Grammatik und Rechtschreibung aufweisen können.
Phishing-E-Mails sind fälschlicherweise wie oft angenommen normalerweise eben nicht durch schlechte Grammatik und Rechtschreibfehler gekennzeichnet. KI-gesteuerte Phishing-Angriffe werden dennoch zunehmend anspruchsvoller und sind oft grammatikalisch korrekt. Daher ist es entscheidend, die Mitarbeiter darauf zu schulen, andere Warnzeichen zu erkennen, anstatt sich ausschließlich auf grammatische Fehler zu konzentrieren. Dazu gehört beispielsweise die Analyse der Länge und Komplexität des E-Mail-Inhalts, da längere E-Mails oft auf KI-generierte Texte hinweisen können.
KnowBe4 ermöglicht es mit seinem New School Security Awareness-Ansatz Mitarbeitern, jeden Tag intelligentere Sicherheitsentscheidungen zu treffen. Die Plattform wird stetig mit neuen Modulen erweitert, damit Unternehmen auch auf die Bedrohung durch KI generiertes Phishing besser schulen zu können.
