Unsichtbar gekennzeichnet: Wie Anthropic KI-Texte markieren will

Der AI Act macht die Herkunft von KI-Inhalten zum technischen Problem

Wer bei der Kennzeichnung von KI-generierten Inhalten an einen kleinen Hinweis unter einem Bild oder den Zusatz „Dieser Text wurde mit KI erstellt“ denkt, greift zu kurz. Artikel 50 des EU AI Act verfolgt bei generativen KI-Systemen einen technisch deutlich interessanteren Ansatz.

Seit dem 2. August 2026 gelten wesentliche Transparenzpflichten des Artikels 50. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich dafür sorgen, dass entsprechende Inhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Das bedeutet zunächst etwas anderes als eine sichtbare Kennzeichnung für den Leser. Die Information über die Herkunft eines Inhalts kann technisch in diesem Inhalt beziehungsweise in dessen Provenienzinformationen hinterlegt werden.

Daneben existieren Pflichten für diejenigen, die KI-generierte Inhalte einsetzen und veröffentlichen. Besonders relevant sind Deepfakes sowie KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Solche Texte müssen grundsätzlich klar als entsprechend erzeugt oder manipuliert offengelegt werden, sofern keine einschlägige Ausnahme greift.

Eine wichtige Ausnahme betrifft menschliche Kontrolle: Wurde ein Text einer tatsächlichen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, entfällt diese spezifische Offenlegungspflicht nach Artikel 50 Absatz 4. Eine reine Rechtschreib- oder Grammatikprüfung genügt dafür nach den Leitlinien der Europäischen Kommission allerdings nicht.

Damit unterscheidet der AI Act zwischen zwei Ebenen: der technischen Nachweisbarkeit der Herkunft und der für Menschen wahrnehmbaren Offenlegung bestimmter Inhalte.

Und genau an der ersten Ebene wird es technisch interessant.

Anthropic will Claude-Texte mit Wasserzeichen versehen

Anthropic hat am 11. August 2026 bestätigt, künftig auch von seinen Modellen erzeugte Texte mit Wasserzeichen zu versehen. TechCrunch berichtete über eine entsprechende Aktualisierung der Supportinformationen des Unternehmens.

Bei Bildern ist die Vorstellung eines digitalen Wasserzeichens relativ intuitiv. Zusätzliche Informationen können beispielsweise über Metadaten oder andere technische Verfahren mit einer Datei verbunden werden. Bei Text funktioniert das jedoch grundlegend anders.

Ein Text besteht letztlich aus einer Sequenz von Zeichen beziehungsweise Tokens. Ein Wasserzeichen kann deshalb nicht einfach wie eine unsichtbare Pixelstruktur in ein Bild geschrieben werden.

Stattdessen muss die Information während der Generierung entstehen.

Sprachmodelle berechnen bei jedem Generierungsschritt Wahrscheinlichkeiten für mögliche nächste Tokens. Ein Watermarking-Verfahren kann diesen Auswahlprozess kontrolliert beeinflussen und bestimmte Tokenfolgen statistisch bevorzugen. Für einen Menschen kann der daraus resultierende Satz vollkommen normal aussehen.

Ein darauf abgestimmtes Erkennungssystem untersucht anschließend die statistischen Eigenschaften des Textes. Tritt das erwartete Muster mit hinreichender Stärke auf, kann dies als Indiz dafür dienen, dass der Text von einem bestimmten KI-System erzeugt wurde.

Die Kennzeichnung steht damit nicht unter dem Text.

Sie steckt statistisch im Text selbst.

Das ist etwas anderes als „Dieser Inhalt wurde mit KI erstellt“

Die Unterscheidung ist für die Diskussion um den AI Act zentral.

Die Europäische Kommission fasst die Anforderungen für Anbieter generativer KI-Systeme so zusammen, dass synthetische Inhalte maschinenlesbar markiert und ihre Erkennung ermöglicht werden sollen. Der im Juni 2026 veröffentlichte Code of Practice konkretisiert diesen Ansatz und nennt maschinenlesbare Lösungen, die – soweit technisch möglich – effektiv, interoperabel, robust und zuverlässig sein sollen.

Das Ziel ist deshalb nicht ausschließlich, dass ein Mensch beim Lesen sofort erkennt, ob KI beteiligt war.

Es soll zusätzlich eine technische Provenienzschicht entstehen.

Ein Online-Dienst könnte beispielsweise einen Inhalt automatisiert untersuchen. Eine Plattform könnte beim Upload prüfen, ob ein Bild oder Text eine entsprechende Markierung enthält. Ein Content-Management-System könnte Herkunftsinformationen speichern. Denkbar wären ebenfalls automatisierte Prüfprozesse in Medienhäusern oder Unternehmen.

Die Europäische Kommission hat daneben optionale EU-Symbole für die sichtbare Kennzeichnung bestimmter KI-generierter oder manipulierter Inhalte entwickelt. Ihre Verwendung ist freiwillig; die gesetzlichen Offenlegungspflichten in den einschlägigen Fällen sind es nicht.

Technische Markierung und sichtbare Kennzeichnung sind daher keine konkurrierenden Konzepte. Sie erfüllen unterschiedliche Funktionen.

Warum Wasserzeichen bei Bildern einfacher sind

Gerade der Vergleich mit Bildern zeigt allerdings das zentrale Problem.

Für Bild-, Audio- und Videodateien existieren unterschiedliche Möglichkeiten, Provenienzinformationen technisch mitzuführen oder Veränderungen am eigentlichen Medium vorzunehmen. Standards und Verfahren können beispielsweise Informationen über Ursprung und Bearbeitungsschritte transportieren.

Text ist wesentlich fragiler.

Schon kleine Veränderungen können ein statistisches Wasserzeichen schwächen. Ein Nutzer könnte einen Absatz umformulieren, einzelne Wörter ersetzen oder den Text übersetzen. Noch einfacher wäre es, den Text einem zweiten Sprachmodell zu geben:

„Formuliere diesen Text neu, ohne seine Aussage zu verändern.“

Der sichtbare Inhalt bleibt semantisch ähnlich, seine statistische Struktur kann sich jedoch erheblich verändern.

Genau hier liegt die entscheidende Herausforderung für Text-Watermarking.

Ein Wasserzeichen ist kein Beweis

Die Vorstellung, künftig einen beliebigen Text in einen Detector einzufügen und anschließend zweifelsfrei zu erfahren, ob Claude ihn geschrieben hat, wäre deshalb problematisch.

Technische Detektionsverfahren können Fehler produzieren. Einerseits kann ein KI-generierter Text nicht erkannt werden. Andererseits darf ein menschlich geschriebener Text nicht allein aufgrund statistischer Ähnlichkeiten vorschnell als KI-generiert klassifiziert werden.

Hinzu kommt die Frage der Robustheit.

Ein gutes Watermarking-System müsste seine Markierung möglichst auch dann behalten, wenn ein Nutzer kleinere Änderungen vornimmt. Gleichzeitig darf die dafür notwendige Veränderung der Tokenauswahl die Qualität des generierten Textes nicht wesentlich beeinträchtigen.

Damit entsteht ein Zielkonflikt:

Je stärker das Wasserzeichen in die Generierung eingreift, desto leichter könnte es möglicherweise erkannt werden. Je subtiler es arbeitet, desto schwieriger könnte eine robuste Detektion werden.

Der Code of Practice der Europäischen Kommission berücksichtigt diese technische Realität ausdrücklich. Die vorgesehenen Markierungs- und Detektionsmechanismen sollen unter anderem robust und zuverlässig sein, allerdings nur soweit dies technisch machbar ist. Der Gesetzgeber schreibt damit kein einzelnes konkretes Watermarking-Verfahren vor.

Der AI Act könnte einen neuen Infrastruktur-Layer schaffen

Interessanter als die konkrete Implementierung bei Claude ist deshalb die langfristige Entwicklung.

Heute wird bei generativer KI vor allem über Modelle, Prompts und Anwendungen gesprochen. Mit Artikel 50 entsteht zusätzlich eine Infrastruktur rund um die Provenienz digitaler Inhalte.

Ein zukünftiger Informationsfluss könnte beispielsweise so aussehen:

KI-Modell → Generierung → maschinenlesbare Markierung → Veröffentlichung → automatische Erkennung → Provenienzinformation für Plattform oder Nutzer.

Damit würde nicht mehr ausschließlich der Inhalt selbst betrachtet. Ebenso relevant würde die Frage, woher dieser Inhalt stammt und wie er entstanden ist.

Anthropic wäre dann lediglich ein Akteur innerhalb eines größeren technischen Ökosystems. Damit dieses funktioniert, müssten unterschiedliche Modellanbieter, Plattformen, Content-Systeme und Detektionswerkzeuge miteinander interoperieren können.

Genau deshalb fordert der europäische Code of Practice nicht nur irgendeine Kennzeichnung, sondern adressiert ausdrücklich die Interoperabilität der verwendeten Lösungen.

Ein proprietäres Claude-Wasserzeichen, das ausschließlich Anthropic erkennen kann, wäre technisch weniger wertvoll als ein standardisiertes Verfahren, dessen Herkunftsinformationen auch andere Systeme zuverlässig interpretieren können.

Für Unternehmen wird die Unterscheidung zwischen AI-generated und AI-assisted wichtig

Für Unternehmen hat die Entwicklung noch eine zweite Dimension.

In der Praxis entsteht Content selten vollständig automatisiert. Ein Mitarbeiter erstellt möglicherweise einen ersten Entwurf mit Claude, verändert anschließend mehrere Absätze, ergänzt eigene Informationen, überprüft Quellen und übernimmt letztlich die Verantwortung für die Veröffentlichung.

Ist dieser Text noch „KI-generiert“?

Der AI Act versucht diese Grauzonen differenzierter abzubilden als es die häufig verwendete Formulierung „KI-Inhalte müssen gekennzeichnet werden“ vermuten lässt.

Bei der technischen Markierungspflicht auf Anbieterseite existieren unter anderem Ausnahmen für Systeme, die lediglich unterstützende Standardbearbeitungen durchführen oder Eingaben nicht wesentlich verändern. Bei veröffentlichten Texten zu Angelegenheiten von öffentlichem Interesse ist wiederum relevant, ob eine substanzielle menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und redaktionelle Verantwortung übernommen wird.

Das ist für Unternehmen entscheidend.

Die regulatorisch relevante Frage lautet künftig möglicherweise nicht nur:

„Wurde KI verwendet?“

Sondern:

„Welche Rolle hatte die KI bei der Entstehung dieses Inhalts, welche technische Provenienz besitzt er und welche menschliche Kontrolle fand anschließend statt?“

Diese Unterscheidung dürfte wesentlich besser zur tatsächlichen Nutzung generativer KI passen als eine binäre Einteilung in „von Menschen“ und „von KI“ erzeugte Inhalte.

Wasserzeichen lösen das Vertrauensproblem trotzdem nicht

Technisches Watermarking kann Transparenz verbessern. Es löst aber nicht automatisch das grundsätzliche Problem synthetischer Inhalte.

Ein Wasserzeichen kann entfernt oder durch Transformation geschwächt werden. Open-Source-Modelle können ohne vergleichbare Mechanismen betrieben werden. Inhalte können mehrfach zwischen verschiedenen Modellen transformiert werden. Screenshots, Copy-and-Paste-Prozesse und Formatkonvertierungen können Provenienzinformationen verändern oder zerstören.

Vor allem gilt die umgekehrte Logik nicht:

Das Fehlen eines erkennbaren Wasserzeichens beweist nicht, dass ein Inhalt von einem Menschen stammt.

Damit sollte Watermarking weniger als universeller „KI-Detektor“ verstanden werden, sondern als ein Baustein einer größeren Provenienzarchitektur.

Genau darin liegt jedoch die interessante Entwicklung hinter Anthropics Entscheidung.

Die erste Phase generativer KI drehte sich darum, Maschinen Inhalte erzeugen zu lassen, die von menschlichen Inhalten kaum zu unterscheiden sind. Die nächste technische Herausforderung könnte genau das Gegenteil sein: