Anthropic hat offiziell angekündigt, dass zukünftige Claude-Modelle Texte mit Wasserzeichen generieren werden, was eine Möglichkeit ist, festzustellen, ob Claude an der Texterstellung beteiligt war. Dieser Schritt erfolgt zur Einhaltung der Anforderungen des EU-KI-Gesetzes, und Anthropic implementiert diese Änderung zusammen mit anderen großen KI-Anbietern.
Funktionsweise der Wasserzeichen-Technologie
Laut offizieller Erklärung hat die Wasserzeichen-Technologie keinen tatsächlichen Einfluss auf die Ausgabequalität oder den Inhalt von Claude. Der Unterschied zwischen wasserzeichenbehafteten und nicht-wasserzeichenbehafteten Texten ist für die Leser nicht wahrnehmbar. Die Offizielle stellt fest: „Die von uns verwendete Wasserzeichenmethode hat keinen tatsächlichen Einfluss auf die Ausgabequalität oder den Inhalt von Claude; der Unterschied zwischen wasserzeichenbehaftetem und nicht-wasserzeichenbehaftetem Text wird für die Leser nicht erkennbar sein.“ (”The difference between watermarked and un-watermarked text will not be distinguishable to readers.”)Anthropic
Technischer Hintergrund der Wasserzeichen
Die Wasserzeichen-Technologie von Claude basiert auf der SynthID-Text-Methode, die 2024 von Google DeepMind veröffentlicht wurde. Das Designprinzip dieser Methode besteht darin, die Quelle der Zufälligkeit bei der Wortauswahl zu verändern. Die Offizielle erklärt: „Das Wasserzeichen ändert nur die Quelle der Zufälligkeit, die zur Auswahl von Wörtern verwendet wird.“ (”The watermark only changes the source of the randomness used to pick among words.”)Anthropic
Auswirkungen und Einschränkungen der Wasserzeichen-Technologie
Die Wirksamkeit der Wasserzeichen-Technologie hat gewisse Einschränkungen. Laut offizieller Erklärung kann das Wasserzeichen nicht bestätigen, ob der Text von Menschen verfasst wurde, noch kann es feststellen, ob der Text von einer anderen KI generiert wurde. Die Offizielle weist darauf hin: „Mit unserem Schlüssel kann man nur die Frage beantworten: ‚Wie wahrscheinlich ist es, dass dies teilweise von Claude geschrieben wurde?’“ (”Using our key, one can only answer the question ‘What is the likelihood this was partly written by Claude?’”)Anthropic
Anwendung von Wasserzeichen in der Textbearbeitung
Wenn Claude Texte Korrektur liest oder bearbeitet, gilt das Wasserzeichen nur für die von Claude gewählten Wörter. Da der Großteil des Textes von Menschen verfasst ist, sind Claudes Änderungen in der Regel gering, weshalb der Raum für das Anbringen von Wasserzeichen begrenzt ist. Die Offizielle betont: „Das Wasserzeichen gilt nur für die von Claude gewählten Wörter.“ (”The watermark only applies to words Claude chooses.”)Anthropic
Quelle: Offizielle Ankündigung von Anthropic