Anthropic verpflichtet sich zur Kennzeichnung KI‑generierter Inhalte
Der KI‑Dienstleister Anthropic hat den Code of Practice zu Artikel 50(2) der europäischen KI‑Verordnung unterzeichnet. Damit verpflichtet sich das Unternehmen, sämtliche von seinen Systemen erzeugten Texte und Bilder maschinenlesbar zu markieren. In einem Blogbeitrag erklärte das Unternehmen, dass es sowohl generative KI‑Modelle als auch komplette KI‑Systeme anbietet und nun konkrete Schritte zur Umsetzung der Transparenzpflichten unternimmt.
Technische Umsetzung: Unsichtbare Watermarks und signierte Metadaten
Ab dem 2. August 2026 müssen neue Modelle, die in der EU vertrieben werden, von Anfang an maschinenlesbare Kennzeichnungen enthalten. Diese Vorgabe gilt global für die gesamte Claude‑Produktpalette – von Claude Platform über Claude Code bis hin zu Claude Cowork und Claude Tag. Die Kennzeichnung erfolgt über zwei komplementäre Verfahren. Erstens werden unsichtbare Watermarks direkt in den erzeugten Text eingebettet. Diese Markierungen überleben Kopiervorgänge und nachträgliche Bearbeitungen, sodass sie auch nach Änderungen noch nachweisbar bleiben.
Zweitens werden für unterstützte Dateiformate wie SVG, PNG oder JPG signierte Metadaten nach dem C2PA‑Standard angehängt. Das Vorhandensein solcher Metadaten signalisiert, dass die Datei von einem Claude‑Modell verarbeitet wurde. Damit erhalten Unternehmen und Endnutzer ein zuverlässiges Werkzeug, um KI‑Beiträge zu identifizieren.
Übergangsphase und Nachrüstung
Anthropic räumte ein, dass nicht alle bestehenden Plattformen und Funktionen dieselbe Kennzeichnungsqualität bieten. Modelle, die vor dem Stichtag veröffentlicht wurden, befinden sich in einer Übergangsphase. Das Unternehmen arbeitet an einer Nachrüstung, hat jedoch noch keinen konkreten Zeitplan veröffentlicht.
Grenzen der Kennzeichnung und mögliche Fehlinterpretationen
Die Kennzeichnungen besitzen keine Beweiskraft. Sie geben lediglich einen Hinweis darauf, dass Claude an der Entstehung des Materials mitgewirkt hat, bestätigen jedoch nicht die gesamte Herkunftsgeschichte. Da Claude häufig als Korrekturleser, Übersetzer, Zusammenfasser oder Konverter eingesetzt wird, können markierte Inhalte teilweise menschlich erstellt sein. Dadurch können falsche Verdächtigungen entstehen, wenn ein markierter Text fälschlicherweise als rein KI‑generiert angesehen wird.
Umgekehrt bedeutet das Fehlen einer Markierung nicht zwangsläufig, dass kein KI‑Beitrag vorliegt. Inhalte können stark überarbeitet, umformuliert oder so stark gekürzt werden, dass das Kennzeichen nicht mehr erkennbar ist. Auch nachträgliche Modifikationen, das Ausschneiden von Abschnitten oder das Kombinieren mit anderem Material können die Erkennbarkeit beeinträchtigen.
Verantwortung der Integratoren und Ausblick
Unternehmen, die Claude in eigene Produkte einbinden, müssen eigenständig prüfen, welche Anforderungen Artikel 50 an ihre Angebote stellt. Anthropic bietet jedoch Unterstützung an, um Entwicklern bei der Erfüllung ihrer Transparenzpflichten zu helfen. Technische Details zu den Markierungs‑ und Nachweisverfahren sollen schrittweise veröffentlicht werden.
Die Praxis, kaum sichtbare Zeichen zur Kennzeichnung von KI‑Inhalten zu nutzen, ist nicht neu. Googles SynthID und zeitweise von ChatGPT eingesetzte Marker verfolgen ein ähnliches Ziel. Anthropic reiht sich damit in eine wachsende Reihe von Anbietern ein, die versuchen, die Herkunft von maschinell erzeugten Inhalten transparent zu machen.
Source: https://www.golem.de/news/anthropic-claude-markiert-alles-ki-generierte-2608-211787.html