Thought Leadership
Erstmals weltweit sperren zwei Staaten den Zugang zu Elon Musks KI-Tool Grok wegen der Erstellung nicht-einvernehmlicher Deepfakes.
Die südostasiatischen Länder Malaysia und Indonesien haben den Zugriff auf den KI-Chatbot Grok von Elon Musk gesperrt, wie BBC berichtet. Grund ist der wiederholte Missbrauch des in die Plattform X integrierten Tools zur Erstellung sexuell expliziter Deepfakes realer Personen.
Nach Angaben der zuständigen Behörden kann Grok dazu verwendet werden, pornografische und nicht-einvernehmliche Darstellungen von Frauen und Kindern zu generieren. Die Bildgenerierungsfunktion des Chatbots ermöglicht es Nutzern, Aufnahmen realer Personen so zu manipulieren, dass diese in aufreizender Kleidung erscheinen.
Behörden fordern Schutzmaßnahmen
Die malaysische Regulierungsbehörde MCMC erklärte, man habe X bereits zu einem früheren Zeitpunkt im laufenden Jahr kontaktiert und strengere Maßnahmen gefordert. Die Reaktion des Unternehmens habe sich jedoch primär auf Meldemechanismen für Nutzer konzentriert, ohne die strukturellen Risiken der Plattform anzugehen. Die Sperrung von Grok bleibe bestehen, bis wirksame Schutzmaßnahmen implementiert würden.
Indonesiens Ministerin Meutya Hafid bezeichnete den Einsatz von Grok zur Produktion derartiger Inhalte als Verstoß gegen Menschenrechte und Online-Sicherheit. Das Ministerium forderte eine Stellungnahme von X. Indonesien blockiert bereits seit Jahren Plattformen mit pornografischen Inhalten.
Druck auch in Großbritannien
Auch in Großbritannien wächst der Druck auf Musk. Premierminister Keir Starmer kritisierte die Nutzung von Grok für sexualisierte Bilder scharf. Technologieministerin Liz Kendall kündigte Unterstützung für die Regulierungsbehörde Ofcom an, sollte diese X aufgrund von Verstößen gegen den Online Safety Act blockieren. Musk warf der Regierung daraufhin vor, Meinungsfreiheit unterdrücken zu wollen.
