OpenAI wird unsichtbare Wasserzeichen für ChatGPT in der EU einführen

OpenAI führt unsichtbare Wasserzeichen für ChatGPT-Texte in der EU ein: Wozu das nötig ist und ob man es umgehen kann

OpenAI, der Entwickler des beliebten Sprachmodells ChatGPT, beginnt damit, unsichtbare Wasserzeichen in Texte zu integrieren, die seine Systeme innerhalb der Europäischen Union erzeugen. Die Neuerung mit dem Namen textGrain soll die Transparenz beim Einsatz von Künstlicher Intelligenz (KI) im Einklang mit den neuen regulatorischen Anforderungen der EU erhöhen.

Die Funktion wird in den kommenden Wochen schrittweise für alle ChatGPT- und Codex-Nutzer eingeführt, unabhängig vom gewählten Tarif. Die Einführung steht im Zusammenhang mit den Vorgaben des Europäischen KI-Gesetzes, das eine Kennzeichnung von KI-generierten Inhalten vorsieht.

Wie textGrain funktioniert

Die textGrain-Technologie verändert bei der Texterstellung unmerklich die Wortwahl. Diese Veränderungen erzeugen ein einzigartiges statistisches Muster, das von spezieller Software erkannt werden kann. Da die Kennzeichnung direkt in die Textstruktur eingebettet wird, bleibt sie selbst nach Kopieren und Einfügen erhalten.

OpenAI betont, dass das Vorhandensein eines solchen Wasserzeichens lediglich darauf hinweist, dass ein OpenAI-System an der Erstellung oder Bearbeitung des Textes beteiligt war, nicht aber den Grad menschlicher Mitwirkung bestimmt.

Anfälligkeit für Bearbeitungen und Zugang zur Technologie

OpenAI-Forschungen zeigen eine gewisse Anfälligkeit des Wasserzeichens gegenüber manuellen Bearbeitungen. So kann der Austausch von rund 10 % der Wörter durch Synonyme die Erkennungswahrscheinlichkeit der KI-Spur von 92 % auf 66 % senken. Schwieriger ist der Algorithmus außerdem bei kurzen Textpassagen, mathematischen Formeln und Übersetzungen.

Angesichts dieser Einschränkungen werden die Werkzeuge zum Erkennen von textGrain in der Anfangsphase ausschließlich akkreditierten Forschern und Fachorganisationen zur Verfügung stehen, um ihre Zuverlässigkeit zu prüfen.

Regulatorischer Druck und ein Trend in der Branche

Die Einführung der Textkennzeichnung in der EU ist eine direkte Reaktion von OpenAI auf das Inkrafttreten des Europäischen KI-Gesetzes. Dieses legt klare Regeln für die Transparenz beim Einsatz von KI fest und verpflichtet unter anderem dazu, maschinell erstellte Inhalte in einem automatisch erkennbaren Format zu kennzeichnen.

Auch andere große Technologieunternehmen verfolgen einen ähnlichen Ansatz. Erst kürzlich kündigte Anthropic, der Entwickler des Modells Claude, die Einführung unsichtbarer Wasserzeichen für eigene Inhalte ab August 2026 an. Google kennzeichnet bereits Werbung, die mithilfe von KI erstellt oder bearbeitet wurde, und Meta nutzt in seinem Bereich „About this ad“ bereits die Funktion „AI info“.

Diese Schritte zeigen einen allgemeinen Trend in der KI-Branche hin zu mehr Verantwortung und Transparenz beim Einsatz ihrer Technologien – im Einklang sowohl mit regulatorischen Anforderungen als auch mit den Erwartungen der Gesellschaft.