Thought Leadership
Deepfakes, Chatbots und Podcasts: KI-Inhalte müssen in der EU nun klar gekennzeichnet werden. Die Brüsseler Behörde hat konkrete Vorstellungen, wie das aussehen soll – ansonsten sind Strafen möglich.
Beim Surfen und Scrollen könnten Nutzer in der EU jetzt häufiger auf KI-Wasserzeichen stoßen. Denn für manche Anbieter Künstlicher Intelligenz gelten seit heute (Sonntag) strengere Regeln des EU AI Acts, etwa bei der Kennzeichnung von generierten Bildern, Videos oder auch Texten, wie aus einer Mitteilung der EU-Kommission hervorgeht. Zudem müssen Nutzer demnach darüber informiert werden, dass sie mit einer KI interagieren, also etwa mit einem Chatbot schreiben und nicht mit einem Menschen.
Was gilt für die KI-Anbieter genau und welche Strafen drohen bei Verstößen? Die wichtigsten Fragen und Antworten im Überblick:
Wie stellt sich die EU Wasserzeichen bei Deepfakes vor?
Die Brüsseler Behörde hatte vor wenigen Wochen einen Praxisleitfaden veröffentlicht, wie die Markierungen je nach Medium regelkonform aussehen könnten. Die gelten besonders für Deepfakes, also täuschend echt wirkende Inhalte, die zum Teil zu manipulativen Zwecken eingesetzt werden. In Deepfake-Videos sollten die Kennzeichnungen demnach etwa direkt zu Beginn erscheinen, dort bleiben oder zumindest in regelmäßigen Abständen wieder eingeblendet werden.
Empfohlen werden auch interaktive Elemente, etwa bei manipulierten Bildern. Hier könnte – zusätzlich zu einer dauerhaften Markierung – auch eine Einblendung auftauchen, wenn man etwa mit der Maus über ein von KI verfälschtes Gesicht fährt.
Was gilt für Podcasts und Texte?
Bei Audiodateien, etwa KI-generierten Podcasts, soll es gleich zu Beginn einen entsprechenden Hinweis in gesprochener Sprache geben. Für Texte sehen die Vorschläge KI-Etiketten beispielsweise über dem Text oder nahe der Überschrift vor. Grundsätzlich sollen bei der Erstellung von KI-Inhalten auch maschinenlesbare Fingerabdrücke in der Datei hinterlassen werden, damit andere Systeme sie zuverlässig als künstlich generiert erkennen können.
Für wen gelten die strengeren Pflichten?
Die neuen Regeln treten an diesem Sonntag für alle KI-Anbieter in Kraft, die ihre Modelle nun neu auf den Markt bringen. Für die Anbieter von beliebten und bereits existierenden Modellen wie ChatGPT, Gemini oder Claude sollen die Regeln dann spätestens ab Dezember 2026 gelten. Die Pflichten gelten nicht für Privatpersonen, es sei denn sie nutzen die KI zu beruflichen Zwecken.
Welche neuen KI-Regeln gibt es noch?
Zudem prüft das europäische KI-Amt in Brüssel nun, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Dafür müssen sie entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der EU melden.
Das ist kein theoretisches Szenario, wie zwei prominente Fälle aus der jüngsten Vergangenheit zeigen: Sowohl der ChatGPT-Entwickler OpenAI als auch der Claude-Entwickler Anthropic mussten einräumen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte.
Wie hoch sind die Strafen bei Verstößen?
Bei Verstößen gegen das KI-Gesetz kann eine empfindliche Strafe fällig werden. Bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Konzerns sind etwa bei verbotenen KI-Praktiken möglich, je nachdem welcher Betrag höher ist.
Bei der Missachtung von Transparenzpflichten oder mangelnden Sicherheitsvorkehrungen sind dagegen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes möglich – wieder abhängig davon, welcher Betrag höher ist.
(dpa/red)
