Alleen betalende Grok-gebruikers mogen nog foto's bewerken

Grok kwam de afgelopen tijd onder vuur te liggen vanwege deepfakes van seksuele aard en andere vormen van gemanipuleerde beelden. Zo bleek uit een inventarisatie van Reuters dat binnen tien minuten 102 verzoeken bij Grok binnenkwamen om vrouwen digitaal te ontkleden. In 21 gevallen gaf de chatbot aan de opdracht gehoor en toonde vrouwen in weinig verhullende kleding of met gedeeltelijk verwijderde kleding.

Felle kritiek

De ontdekking kwam Grok-maker xAI op felle kritieke te staan. Zo is de AI-chatbot door Franse ministers bij zowel justitie als toezichthouders aangemeld vanwege de verspreiding van 'seksuele en seksistische content'. xAI zou hiermee de Europese Digital Service Act (DSA) aan te passen. Ook vanuit Brussel is kritisch gereageerd; de Europese Commissie gaat mogelijk onderzoek doen naar de AI-chatbot. xAI moet met het oog hierop alle interne documentatie en data over Grok tot zeker eind dit jaar bewaren.

De aanpassing die xAI nu doorvoert lijkt een reactie op deze kritiek.