Rechter verbiedt uitkleedbeelden op Grok
De Amsterdamse voorzieningenrechter verbiedt Grok en X uitkleedbeelden en kinderpornografisch materiaal te genereren en te verspreiden. Het verbod geldt voor beelden van personen die in Nederland wonen en voor de vervaardiging en verspreiding van beelden in Nederland.
Bekijk hier een video- U verlaat Rechtspraak.nl met toelichting op de uitspraak door een persrechter.
Het expertisecentrum online misbruik Offlimits daagde Grok en X voor de rechter omdat het via de AI-chatbot Grok en X mogelijk is om zonder toestemming ‘uitkleedbeelden’ en kinderpornografisch materiaal te genereren en verspreiden. Grok en X voerden aan dat zij ook dit soort beelden willen tegengaan. Ze hebben verboden in hun gebruikersvoorwaarden opgenomen en hebben maatregelen genomen om het genereren en verspreiden van deze content te voorkomen.
Effectiviteit maatregelen
Offlimits heeft volgens de voorzieningenrechter voldoende onderbouwd dat gerede twijfel bestaat over de effectiviteit van de getroffen maatregelen. Zo lukte het Offlimits om kort voor de zitting nog een uitkleedvideo te genereren met Grok. De voorzieningenrechter verbiedt Grok en X uitkleedbeelden en kinderpornografisch materiaal te genereren en te verspreiden. Het gaat daarbij om beelden van personen die in Nederland wonen en om de vervaardiging en verspreiding van beelden in Nederland.
De voorzieningenrechter legt een dwangsom van 100 duizend euro per dag, met een maximum van 10 miljoen euro, aan het overtreden van het verbod op. Verder wordt X verboden om Grok als onderdeel van X aan te bieden, zo lang Grok niet voldoet aan de opgelegde verboden.
