Claude-Wasserzeichen: Streit über Qualität und KI-Kennzeichnung

Anthropic kennzeichnet Texte von Claude mit statistischen Mustern in der Wortwahl. Die unsichtbare Markierung soll KI-Ausgaben nachträglich erkennbar machen, löst aber eine Debatte über sprachliche Qualität und den Status redigierter menschlicher Texte aus.

Nach Angaben von Anthropic basiert die Technik auf statistischen Entscheidungen bei der Textgenerierung. Sie setzt nicht auf sichtbare Markierungen oder unsichtbare Sonderzeichen. Stattdessen soll die Auswahl möglicher Wörter über einen längeren Text hinweg eine nachweisbare Signatur ergeben. Anthropic sagt, dies habe keine Auswirkungen auf Inhalt, Kreativität oder Lesbarkeit.

Daran zweifelt unter anderem der Autor John Gruber. Seine Kritik: Auch nahe beieinander liegende Wörter und Formulierungen seien nicht bedeutungsgleich. Wenn die Wahrscheinlichkeit einer Formulierung wegen der Wasserzeichen-Technik verändert werde, könne das Modell eine weniger passende Wahl treffen. Nach dieser Lesart können sich kleine Unterschiede bei Wortwahl und Ton in längeren Texten zu einer Qualitätsfrage summieren.

Ob die Auswirkungen in der Praxis wesentlich sind, bleibt umstritten. Anthropic bewertet sie als nicht wahrnehmbar. Die Kritiker verweisen dagegen gerade auf Fälle, in denen sprachliche Präzision und stilistische Nuancen entscheidend sind. Empirische Studien zu den Folgen speziell für fachlich präzise Texte werden in den vorliegenden Berichten nicht angeführt.

Ein weiterer Streitpunkt ist die Bearbeitung menschlicher Texte. Nutzer lassen KI-Systeme häufig lediglich Korrekturen an Rechtschreibung und Grammatik vornehmen. 9to5Mac warnt, dass auch solche Texte eine KI-Signatur erhalten könnten. Eine spätere Erkennung würde dann zwar eine technische Beteiligung anzeigen, aber nicht automatisch unterscheiden, ob Claude einen gesamten Text verfasst oder nur redigiert hat.

Damit stellt sich die Frage, wie eine Kennzeichnung sprachlich und inhaltlich eingeordnet werden sollte. Bei minimalen Korrekturen wäre die Bezeichnung „KI-generiert“ aus Sicht der Kritiker zu weitgehend. Bei umfangreichen Umschreibungen liegt die Sache anders. Eine technische Markierung allein beantwortet diese Abstufung nicht.

Für Kanzleien kann die Nachweisbarkeit ebenfalls relevant sein. Artificial Lawyer hält die Wasserzeichen im Regelfall für unproblematisch. Kritisch werden sie dort, wo Auftraggeber KI ausdrücklich untersagen oder die Nutzung in einem Verfahren umstritten sein könnte. Auch bei Honorarverhandlungen könnte ein erkennbarer KI-Anteil Fragen über den Arbeitsaufwand auslösen.

Kompliziert wird die Lage durch wiederverwendete Textbausteine. Werden mit KI bearbeitete Klauseln in Vorlagen übernommen, kann die Markierung nach der Einschätzung von Artificial Lawyer in späteren Dokumenten fortbestehen. Bei der Arbeit mit mehreren Sprachmodellen könnten zudem unterschiedliche statistische Muster zusammentreffen.

Anthropic räumt ein, dass die Kennzeichnung in faktenreichen Passagen weniger dicht sein kann. Dort stehen weniger sinnvolle Formulierungsalternativen zur Verfügung. Das ist besonders für juristische und andere präzisionsabhängige Texte ein relevanter Vorbehalt.

Die Markierung lässt sich offenbar mit Paraphrasierungswerkzeugen abschwächen oder entfernen. Kritiker sehen darin eine Begrenzung der Methode: Sie kann Transparenz für unverändert übernommene KI-Texte schaffen, ist aber nicht zwingend gegen bewusste Umgehung geschützt.

Anthropic führt die Funktion nach eigenen Angaben im Zusammenhang mit europäischen Vorgaben ein und aktiviert sie weltweit. Claude-Modelle, die nach dem 2. August veröffentlicht wurden, unterstützen die Kennzeichnung. Ältere Modelle sollen in den kommenden Monaten folgen.