'Anthropic geeft zakelijke klanten meer controle over hun data'

Anthropic kondigde in juni aan dat alle klantdata voor de krachtigere Mythos- en Fable-modellen dertig dagen ging bewaren, om zo nieuwe soorten aanvalsmethoden waarbij de AI-technologie wordt ingezet te identificeren en te voorkomen. De regel geldt ook voor toekomstige frontier-modellen van Anthropic. De data wordt niet gebruikt om AI-modellen te trainen, aldus Anthropic destijds.

Nu komt er dus een kleine wijziging in dat beleid: de data kan ook op de eigen cloudinfrastructuur bewaard worden. Aan het geplande systeem wordt al maanden gewerkt, zegt een ingewijde tegen Bloomberg. Reuters weet te melden dat Anthropic hiervoor met honderd klanten heeft overlegd, inclusief Salesforce. Wanneer de wijziging actief wordt, is niet bekend. Anthropic weigerde tegenover Bloomberg te reageren op de berichtgeving. 

Kritiek verwacht

Anthropic hield bij de onthulling van de maatregel in juni al rekening met kritiek van gebruikers, zegt Bloomberg. Veel gebruikers waren eraan gewend dat data helemaal niet bewaard werd. Ook zag Anthropic destijds al in dat het beleid een risico kan vormen voor zijn zakelijk succes, zeker als de concurrentie geen vergelijkbare regel instelt. 

In de tussentijd heeft OpenAI een veiligheidssysteem aangekondigd waarvoor juist geen klantdata voor worden opgeslagen. Dat systeem wordt nu getest met bedrijven als Databricks en Microsoft. Naar verwachting wordt het systeem in september breder uitgerold.