Anthropic voorziet AI-gegenereerde content van watermerk

Alle nieuwe Claude-modellen voorzien met AI-gegenereerde content voortaan van een watermerk, schrijft Anthropic op zijn website. Op die manier is te bewijzen dat een tekst of afbeelding niet door mensen is gemaakt, maar met AI. 

Teksten krijgen een voor mensen onzichtbaar watermerk. "Je ziet het niet en het verandert niets aan de betekenis, kwaliteit of leesbaarheid van de reactie van Claude", aldus Anthropic. Apparaten kunnen het watermerk echter wel uitlezen en op die manier is te zien of iets met AI is gemaakt. Omdat het watermerk onderdeel uitmaakt van de tekst zelf, komt het ook mee als je de tekst kopieert en ergens anders plakt. Ook blijft het watermerk bij lichte wijzigingen aanwezig. 

Met Claude gegenereerde bestanden, zoals afbeeldingen, krijgen ook een watermerk, in de vorm van digitaal ondertekende metadata. Ook daarmee wordt aangetoond of iets met AI is gemaakt of niet. 

AI Act

Met de watermerken voldoet Anthropic aan de transparantieregels uit de AI Act, die op 2 augustus van kracht werden. Volgens die regels moet alle AI-content herkenbaar zijn als AI-content. Aanbieders van AI-tools zijn dan ook verplicht om output te voorzien van een digitale markering. Daarvoor geldt wel een korte overgangsperiode: modellen die al voor 2 augustus op de markt waren, hebben tot 2 december om aan deze verplichting te voldoen. Nieuwe modellen moeten er direct aan voldoen.

Anthropic zegt dan ook dat nieuwe Claude-modellen direct een watermerk meegeven aan AI-gegenereerde content. De andere Claude-modellen gaan dat op termijn ook doen, maar het is nog niet bekend vanaf wanneer. Anthropic zegt nog bezig te zijn met het toevoegen van ondersteuning voor de watermerken. 

De AI Act stelt verder dat deepfakes duidelijk gelabeld moeten worden. Ook moet bij AI-systemen als chatbots direct duidelijk herkenbaar zijn dat je met een AI praat, en niet met een mens. Tot slot moeten organisaties voortaan vooraf melden als AI emoties herkent of kenmerken analyseert.