Britse waakhond start onderzoek naar X wegens seksuele deepfakes Grok

Dit maakt Ofcom bekend, dat een formeel onderzoek heeft ingesteld. Het onderzoek richt zich op zes centrale verplichtingen van X onder de Britse Online Safety Act:

1. Het beoordelen van risico’s dat gebruikers in het VK blootgesteld worden aan illegale content, en het bijwerken van deze risicoanalyse bij belangrijke wijzigingen in de dienstverlening.
2. Het nemen van passende maatregelen om ‘prioritaire’ illegale content – zoals non-consensuele intieme beelden en kindermisbruikmateriaal – te weren.
3. Het snel verwijderen van illegale content zodra X hiervan op de hoogte is.
4. Het waarborgen van privacybescherming voor gebruikers.
5. Het beoordelen van risico’s die het platform vormt voor Britse kinderen, met een verplichte update van de risicoanalyse bij aanpassingen.
6. Het gebruik van effectieve leeftijdsverificatie om kinderen te beschermen tegen pornografisch materiaal.

Boetes of verstorende maatregelen

De focus ligt in het onderzoek op de vraag of X de Online Safety Act schendt. Ofcom benadrukt dat platforms zelf verantwoordelijk zijn voor het bepalen of content in strijd is met Britse wetten. De toezichthouder beoordeelt of platforms voldoende stappen hebben gezet om gebruikers te beschermen. Bij overtredingen kan Ofcom boetes opleggen tot £18 miljoen of 10% van de wereldwijde omzet, afhankelijk van wat hoger is. In ernstige gevallen kan Ofcom via de rechter maatregelen afdwingen die de bedrijfsvoering verstoren, zoals het blokkeren van betalingsverwerkers of toegang tot het platform in het VK.

Een woordvoerder van Ofcom: “Meldingen over Grok die wordt gebruikt voor het creëren en delen van illegale beelden zijn zeer verontrustend. Platforms moeten gebruikers in het VK beschermen tegen content die hier illegaal is. We zullen dit onderzoek met de hoogste prioriteit uitvoeren, binnen de grenzen van een zorgvuldig proces. Als onafhankelijke handhaver is het cruciaal dat onze onderzoeken juridisch solide en eerlijk zijn.”