China gaat AI-chatbots strenger reguleren

Het zou de strengste wetgeving kunnen worden die momenteel ter wereld bestaat rond de nieuwe technologie van chatbots die generatieve AI gebruiken. Als de regels worden goedgekeurd, zullen ze gelden voor alle AI-producten en -diensten die publiek in China beschikbaar zijn om conversaties te simuleren via tekst, beelden, audio, video en ‘andere middelen’.

Mens oproepen

In de regels staat onder meer dat er een mens moet opgeroepen worden zodra er over zelfmoord wordt gepraat. Minderjarigen en ouderen moeten ook contactinformatie van een voogd opgeven wanneer ze zich registreren, en die voogd krijgt een notificatie wanneer de gebruiker over zelfmoord of zelfverwonding praat.

Daarnaast mogen de bots geen obsceniteit, gokken en andere misdaden promoten. Misschien nog opvallender is dat het AI-bots verboden wordt om ‘het promoten van verslaving en afhankelijkheid’ als ontwerpdoelen in te bouwen.

Rechtszaken

Ouders van verschillende tieners die zelfmoord pleegden hebben afgelopen jaar rechtszaken aangespannen tegen onder meer OpenAI, het bedrijf dat ChatGPT uitbrengt. Daarbij beschuldigen ze de makers van de bot ervan dat die zeer ver meegaat in mogelijk problematisch gedrag, net om gebruikers aan de chatbot te binden.

Onderzoekers van de technologie rapporteren ook dat AI-gezellen soms zelfverwonding, geweld en terrorisme promoten, naast het delen van onder meer desinformatie. ChatGPT heeft ondertussen aanpassingen gekregen om minder meegaand te zijn. Tegen betaling kan je echter nog altijd de oude ‘persoonlijkheid’ gebruiken die zowat alles wat je zegt bevestigt, ook als dat mogelijk schadelijk kan zijn voor je mentale gezondheid.

In samenwerking met Data News