Nach dem großangelegten Angriff auf Salesforce-Kunden über die Salesloft-Drift-Schnittstelle haben nun auch Proofpoint, SpyCloud, Tanium und Tenable Datenverluste bestätigt. Die Attacke soll insgesamt mehr als 700 Unternehmen getroffen haben.
Angefangen hat es ganz unbemerkt, mit einigen wenigen Mitarbeitern, die ChatGPT nutzen, um E-Mails zu formulieren. Oder mit einem Projektmanager, der Notion AI verwendet, um die Ergebnisse von Calls und Meetings zusammenzufassen.
Lange wurde IT-Sicherheit als statischer Schutzwall gedacht. Bestandteile waren Firewalls, Richtlinien, VPN. Doch diese Mauern bröckeln. Menschen arbeiten mobil, Daten fließen in Multi-Clouds, Systeme sind per APIs verknüpft, KI automatisiert Prozesse. Jede Verbindung vergrößert die Angriffsfläche und verändert sie.
Künstliche Intelligenz ist längst in sicherheitskritischen, operativen und strategischen Bereichen von Unternehmen angekommen – sei es beispielsweise in der Prozessautomatisierung, der Medizin, der Kundeninteraktion oder im IT-Betrieb selbst.
KI hat die Spielregeln der Cyberabwehr grundlegend verändert. Was früher eine Flut von offensichtlichem Spam war, hat sich in eine Welle von hochintelligenten, personalisierten Phishing-Angriffen verwandelt, die gezielt Unternehmen und ihre Mitarbeiter ins Visier nehmen.
ChatGPT, Gemini oder Claude: Mit Cloud‑basierten generativen KI‑Tools können Unternehmen effizienter, intelligenter und kreativer agieren. Die Kehrseite: Datenschutz, Modell‑ und Datenkontrolle sowie die Integrität sensibler Informationen sind gefährdet.
Während Unternehmen ihre digitale Transformation beschleunigen, liegt diese oft in den Händen US-amerikanischer Hyperscaler – doch über allem hängt das Damoklesschwert der verlorenen Datensouveränität.
Die zunehmende Verbreitung von KI-Systemen in Unternehmen weckt das Interesse von Cyberkriminellen. Besonders anfällig ist dabei die Inferenzphase, in der trainierte Modelle Nutzereingaben verarbeiten und Entscheidungen treffen.
Cyber-Kriminelle setzen verstärkt auf bewährte Angriffsmuster und nutzen dabei zunehmend QR-Codes für Phishing-Attacken. Gleichzeitig professionalisiert sich die Szene durch standardisierte Tools aus dem Darknet.
Eine Untersuchung an der Universität Tartu wirft ein kritisches Licht auf den Einsatz von Künstlicher Intelligenz im Studium der Informatik.
Thought Leadership