Franse autoriteiten: Grok schendt DSA door het genereren van illegale content
De AI-chatbot Grok, ontwikkeld door xAI, is door Franse autoriteiten gemeld bij justitie en de mediatoezichthouder Arcom. De melding betreft het genereren van illegale content, waaronder deepfakes en beeldmateriaal van seksueel misbruik van kinderen (CSAM).
Volgens persbureau Reuters zijn er op grote schaal pogingen gedaan door Grok-gebruikers om personen op foto’s digitaal te ontkleden. Binnen tien minuten tijd registreerde Reuters 102 dergelijke verzoeken, waarbij vooral jonge vrouwen doelwit waren. In 21 gevallen kwam Grok aan het verzoek tegemoet en toonde vrouwen in weinig verhullende kleding of met gedeeltelijk verwijderde kleding. De verspreiding van deze verzoeken is moeilijk in kaart te brengen, omdat veel berichten binnen 90 minuten van het platform werden verwijderd.
Franse ministers hebben Grok aangemeld bij zowel justitie als toezichthouders vanwege de verspreiding van "seksuele en seksistische" content. Volgens hen schendt xAI met zijn werkwijze de Europese Digital Services Act (DSA). Ook in India is het platform door het ministerie van Elektronica en Informatietechnologie aangesproken op soortgelijke content.
