Nieuwe gebruiksregels voor AI-model Claude

De beleidsupdate volgt op een recent dreigingsrapport van Anthropic, waarin het bedrijf zag dat kwaadwillenden Claude steeds vaker probeerden in te zetten voor grootschalige manipulatie — zoals het opzetten van nepaccounts en gefabriceerde nieuwssites door staatsondernemingen — en het volgen van politieke dissidenten.

"Met de groeiende capaciteiten van Claude zien we dat het model steeds langere en zelfstandigere taken kan uitvoeren," meldt Anthropic. "Deze update verduidelijkt hoe onze regels van toepassing zijn op deze nieuwe functies en sluit aan bij de misbruikpatronen die we het afgelopen jaar hebben geanalyseerd."

Samensmelting van regels tegen misleiding en beïnvloeding

Om misleidende praktijken effectiever te bestrijden, heeft Anthropic losse regels rond verkiezingen, privacy en desinformatie samengevoegd in één nieuw hoofdstuk: Do Not Engage in Deceptive Campaigns or Artificial Activity.

Dit verbod geldt voor zowel politieke als commerciële campagnes. Het verbiedt expliciet het verbergen van de identiteit van een afzender, het kunstmatig versterken van berichten via nepaccounts en het bouwen van de technische infrastructuur voor beïnvloedingsoperaties.

Tegelijkertijd heeft Anthropic het verkiezingsbeleid herijkt (Do Not Undermine Democratic Processes). Het algehele verbod op gepersonaliseerde kiezersbenadering is geschrapt om legitiem civiel werk — zoals non-profitorganisaties die verkiezingsinformatie vertalen voor minderheden — niet langer te dwarsbomen. De focus ligt nu specifiek op het voorkomen van kiezersmisleiding, het verspreiden van valse informatie over kandidaten en het onderdrukken van de opkomst.

Striktere kaders voor wapens, surveillance en fysieke apparatuur

Op het gebied van beveiliging en veiligheid verduidelijkt Anthropic een aantal harde grenzen:

Wapens: Het verbod op de ontwikkeling van wapens is verruimd naar de software en componenten die wapens aansturen, inclusief het bewapenen van drones en autonome voertuigen.

Surveillance en justitie: Het volgen van personen zonder hun toestemming is verboden, ongeacht of dit live gebeurt of via data-analyse achteraf. Claude mag daarnaast niet worden gebruikt om te beslissen of te adviseren wie er moet worden onderzocht, aangehouden of vervolgd.

Autonome hardware: Wanneer Claude gekoppeld is aan fysieke hardware of machines die letsel kunnen veroorzaken, eist Anthropic een bevoegde menselijke operator die de apparatuur live kan overzien en stopzetten. Bij een wegvallende verbinding moet het systeem automatisch naar een veilige stand terugkeren.

Hoge-risicoscenario's en bescherming van het model

Voor AI-toepassingen die directe impact hebben op iemands gezondheid, financiën, wettelijke rechten of levensonderhoud, blijft een gekwalificeerde human-in-the-loop verplicht. Anthropic heeft de richtlijnen verduidelijkt met een expliciete lijst van adviestypes die wel en niet onder deze eis vallen.

Een opvallende nieuwe toevoeging is een verbod op aanhoudend, nodeloos wreed of misbruikend gedrag tegenover het AI-model zelf. Anthropic benadrukt dat dit uitsluitend geldt voor extreme gevallen zonder enig doel, en niet voor normale gebruikersfrustratie, creatieve verhalen of onderzoek. De primaire maatregel hiertegen is dat Claude de mogelijkheid krijgt om zelf extreem scheldende of misbruikende gesprekken stop te zetten.

Tot slot heeft het bedrijf zijn regels voor ondersteunde regio's (Supported Regions Policy) verduidelijkt. Toegang tot Claude blijft strikt verboden voor personen en entiteiten die zich bevinden in niet-ondersteunde regio's, of die voor het grootste deel in handen zijn van partijen uit die gebieden.