Angreifer schleusten über eine HTML-Injection einen Phishing-Link in echte Team-Einladungen von xAI. Die Mails bestanden SPF, DKIM und DMARC.
HTML-Injection
Phishing über offizielle xAI-Einladungen entdeckt
Bildquelle: rafapress / Shutterstock.com
Ein Tesla-Ingenieur hat eine Phishing-Kampagne öffentlich gemacht, bei der Angreifer echte Einladungs-E-Mails der KI-Plattform xAI missbrauchten. Wes Morrill, leitender Ingenieur für den Cybertruck bei Tesla, erhielt eine E-Mail mit einer Einladung zu einem angeblichen „X Founders Private Program” von SpaceXAI. Das KI-Unternehmen von Elon Musk heißt inzwischen SpaceX Super Intelligence. Die E-Mail enthielt einen Link, über den die Einladung angenommen werden sollte. Sie bestand die Authentifizierungsprüfungen SPF, DKIM und DMARC, und Gmail stufte sie als unbedenklich ein.
Rohes HTML im Teamnamen
Morrill ließ die E-Mail von Grok Bot prüfen, dem dauerhaft aktiven KI-Agenten von SpaceXAI. Dieser stufte sie als Phishing ein. Laut Morrill hatte der Angreifer in xAI ein Team angelegt und ihm einen Namen aus rohem HTML gegeben. Die Einladungsvorlage von xAI übernahm diesen Namen, ohne die Sonderzeichen zu maskieren. So gelangte der Phishing-Link in eine E-Mail, die von der echten Domain von xAI verschickt wurde und wie eine Nachricht des Unternehmens wirkte. Ob SpaceXAI die Lücke inzwischen geschlossen hat, ist nicht bekannt.
Gemeinsamer Rechner für alle Bots
Cybernews weist zugleich auf Risiken beim Einsatz von Grok Bot für Sicherheitsprüfungen hin. Die Agenten laufen auf einem gemeinsam genutzten Cloud-Rechner, damit sie rund um die Uhr arbeiten können. Liest ein Bot schädliche Anweisungen, können diese auch andere Bots im selben Konto erreichen.
„Der Computer ist Ihrem Benutzerkonto zugewiesen, nicht einem einzelnen Bot. Legen Sie keine Zugangsdaten oder Dateien darauf ab, wenn ein anderer Bot in Ihrem Konto sie nicht nutzen können soll.”
SpaceXAI
Laut Rasa Jurgutytė, Sicherheitsforscherin bei Cybernews, könnte Grok Bot zum Ziel von Prompt Injections werden, vor allem wenn er Finanztransaktionen abwickelt. Auch ohne Angreifer könnten KI-Agenten Fehler machen, die zu finanziellen Verlusten führen. Musk hatte Nutzer zuletzt aufgefordert, Grok Bot Kreditkartendaten für Einkäufe zu überlassen. In einem anderen Fall hatte der Agent Finanzdaten eines Unternehmenschefs in Slack an dessen Beschäftigte weitergegeben.
(red)
