Onderzoekers voerden zonder toestemming psychologisch AI-experiment uit op Reddit-gebruikers
Onderzoekers van de universiteit van Zurich lieten onaangekondigd AI-bots los op een subforum van het online platform dat zich specialiseert in gevoelige debatten. De onderzoekers zijn verbannen en Reddit denkt erover de zaak voor de rechter brengen.
De universiteit van Zurich heeft aangegeven dat zijn onderzoekers in de afgelopen maanden miljoenen Reddit-gebruikers hebben gemanipuleerd via kunstmatige intelligentie. De universiteit heeft het bedrog opgebiecht aan het forum zelf en zegt dat de onderzoekers de regels hebben overtreden.
'Overredingskracht van LLM’s in een ethisch scenario bekijken'
"In de afgelopen maanden hebben we verschillende accounts gebruikt om postjes te publiceren op het ChangeMyView subforum op Reddit", schrijven de onderzoekers van de universiteit. "Ons experiment wilde de overredingskracht van LLM’s bekijken in een ethisch scenario, waarbij mensen vragen om argumenten te geven tegen bepaalde meningen die ze hebben."
In de praktijk lieten onderzoekers AI argumenten schrijven, en lazen ze die na voordat ze werden gepost. Ze deden dat specifiek in r/changemyview, een subforum dat draait rond debatten van vaak gevoelige aard. Op die manier wilden ze checken of AI iemand van gedacht kon doen veranderen. De onderzoekers verontschuldigen zich voor het breken van Reddits regels rond AI-gebruik, maar zeggen er wel bij dat ze het onderzoek zien als cruciaal, en dat ze het belangrijk vonden om de studie te doen, ongeacht de regels.
'Ernstige ethische schending'
Tijdens de studie nam de AI onder meer het profiel aan van iemand die slachtoffer was van een verkrachting, en van een zwarte man die tegenstander was van de Black Lives Matter beweging. Moderatoren van ChangeMyView zeggen dat het om een ernstige ethische schending gaat. Reddit zelf bekijkt of het aanklacht tegen de onderzoekers wil indienen.
In samenwerking met Data News
