Google hat den SynthID Detector öffentlich freigegeben, Meta testet ein eigenes Werkzeug. Wasserzeichen des jeweils anderen erkennen beide nicht.
Wasserzeichen
KI-Detektoren von Google und Meta sind inkompatibel
Bildquelle: Koshiro K / Shutterstock.com
Google hat den SynthID Detector öffentlich zugänglich gemacht. Mit dem Werkzeug kann jeder Nutzer mit Google-Konto prüfen, ob ein Bild, Video oder eine Audiodatei mit KI-Werkzeugen von Google oder seinen Partnern erstellt wurde. SynthID fügt KI-generierten Inhalten für Menschen nicht wahrnehmbare Signale in Pixel oder Audio ein. Nach Angaben von Google wurden bislang mehr als 180 Milliarden Bilder und Videos mit SynthID markiert.
Erkannt werden Inhalte von Google, OpenAI, Nvidia und Kakao, Apple soll bald folgen. Prüffunktionen sind zudem in die Google-Suche, die Gemini-App und Chrome integriert. Zusammen bearbeiten sie laut Google mehr als eine Million Anfragen pro Tag.
Grenzen der Erkennung
Fehlt das Signal, ist ein Inhalt laut Google nicht automatisch echt. Der Detektor erkennt keine Inhalte aus KI-Modellen ohne SynthID. Starke Bearbeitung und Kompression können das Wasserzeichen zudem so schwächen, dass es nicht mehr erkannt wird. „In sehr seltenen Fällen kann SynthID auch bei Inhalten ohne Wasserzeichen fälschlicherweise anschlagen“, heißt es in den FAQ. In einem Test von Cybernews erkannte das Werkzeug ein vollständig weißes, mit ChatGPT erzeugtes Bild nicht als KI-generiert, einfache Bilder mit wenigen Elementen dagegen schon.
Meta setzt auf Content Seal
Meta nutzt ein eigenes Verfahren namens Content Seal und testet ein öffentliches Werkzeug, das nur Metas eigene Signaturen erkennt. Nach Angaben von Meta bleibt das Wasserzeichen auch nach Zuschneiden, Kompression, Größenänderung oder Screenshots erhalten. Für Videos soll es bald folgen.
Im Test von Cybernews erkannte Metas Werkzeug ein mit SynthID markiertes Bild nicht. Umgekehrt fand der SynthID Detector keine KI-Signale in einem Bild, das mit Metas KI-Assistent Muse erzeugt worden war. Ein Bild aus Midjourney, das Berichten zufolge keine Wasserzeichen setzt, erkannte keines der beiden Werkzeuge.
Pflicht durch KI-Verordnung
Die KI-Verordnung der EU verpflichtet Anbieter, KI-generierte Inhalte maschinenlesbar zu kennzeichnen, auch Text. OpenAI hatte angekündigt, ChatGPT- und Codex-Texte in der EU mit einem unsichtbaren Wasserzeichen zu versehen. Zugleich bieten mehrere kostenpflichtige Dienste Werkzeuge an, die SynthID-Wasserzeichen entfernen sollen. Wie wirksam sie sind, ist nicht bekannt.
(red)
