OpenAI overweegt ouderlijk toezicht na zelfmoord tiener
OpenAI, het bedrijf achter ChatGPT, wil ouders meer inzicht geven in hoe hun tieners het AI-model gebruiken. Dat meldt het nadat een jongen zich van het leven beroofde na gesprekken met de chatbot.
OpenAI bekijkt nieuwe veiligheidsmaatregelen en wil ook functies voor ouderlijk toezicht toevoegen aan zijn bekendeAI-model. Dat zegt het bedrijf in een blogpost. De aanpassingen komen enkele dagen nadat de New York Times een artikel schreef over de dood van de zestienjarige Adam Raine. Die pleegde zelfmoord na maanden van gesprekken met de chatbot. Zijn ouders vinden dat OpenAI meer had moeten doen om zijn dood te voorkomen en zijn een rechtszaak gestart.
'Chatbot gaf instructies'
In de zaak beschuldigen de ouders OpenAI ervan dat de chatbot Adam instructies gaf over hoe hij zich van het leven zou kunnen beroven, en dat de bot hem weg hield van ondersteuningssystemen in het echte leven. Volgens de ouders is de chatbot ontworpen om gebruikers aan de praat te houden en hun gedachten te bevestigen, ook als die gedachten gevaarlijk zijn.
ChatGPT heeft al vrij veel maatregelen ingebakken om net dit soort situaties te voorkomen maar, zo zegt OpenAI ‘die waarborgen kunnen soms minder betrouwbaar zijn in langere interacties. Naarmate de discussie groeit, kunnen delen van de veiligheidstraining van het model verminderen.’
Bij de nieuwe functies die OpenAI bekijkt, zit onder meer het toevoegen van een noodcontact dat met een klik kan worden gecontacteerd. Optioneel zou ChatGPT die persoon zelf kunnen contacteren ‘in erge gevallen’. Het bedrijf zegt ook te werken aan een update voor GPT-5 die de chatbot toelaat bepaalde situaties te de-escaleren.
In samenwerking met Data News
