Seksuele deepfakes levert Grok van xAI blokkade op in Indonesië en Maleisië

Dit is bekend gemaakt door de staatspersbureau's van beide landen. Grok kwam de afgelopen tijd onder vuur te liggen vanwege deepfakes van seksuele aard en andere vormen van gemanipuleerde beelden. Zo bleek uit een inventarisatie van Reuters dat binnen tien minuten 102 verzoeken bij Grok binnenkwamen om vrouwen digitaal te ontkleden. In 21 gevallen gaf de chatbot aan de opdracht gehoor en toonde vrouwen in weinig verhullende kleding of met gedeeltelijk verwijderde kleding.

Felle kritiek

De ontdekking leidt tot felle kritiek wereldwijd. Zo is de AI-chatbot door Franse ministers bij zowel justitie als toezichthouders aangemeld vanwege de verspreiding van 'seksuele en seksistische content'. xAI zou hiermee de Europese Digital Service Act (DSA) aan te passen. Ook vanuit Brussel is kritisch gereageerd; de Europese Commissie gaat mogelijk onderzoek doen naar de AI-chatbot. xAI moet met het oog hierop alle interne documentatie en data over Grok tot zeker eind dit jaar bewaren.

xAI kondigde eind vorige week aan de regels omtrent het bewerken van foto's met Grok aan te scherpen. Alleen betalende gebruikers mogen nog met behulp van de chatbot beelden bewerken. Ook kondigde xAI aan gebruikers die illegaal materiaal genereren permanent te verwijderen.

Effectieve maatregelen geëist

Indonesië en Maleisië lijken hiermee echter geen genoegen te nemen en nemen maatregelen tegen de AI-chatbot. Beide landen eisen effectieve maatregelen van xAI tegen het genereren van seksueel getinte deepfakes.