AI-chatbots: Russische staatspropaganda duikt op in zoekresultaten
Populaire AI-chatbots, waaronder ChatGPT en Gemini, verwijzen in een aanzienlijk deel van hun reacties op vragen over de oorlog in Oekraïne naar Russische staatsmedia. Dat blijkt uit een onderzoek van het Institute for Strategic Dialogue (ISD). Bijna één vijfde (18%) van de onderzochte antwoorden bevatte bronnen die zijn toe te schrijven aan de Russische staat, waaronder media die in de EU zijn gesanctioneerd.
De bevindingen wijzen op een potentieel risico van "LLM grooming", waarbij vijandige staten proberen de resultaten van AI-modellen te beïnvloeden, met name in zogenaamde ‘data voids’ waar legitieme informatie schaars is.
Pro-Russische bronnen bij gekleurde vragen
Het ISD testte 300 zoekopdrachten in vijf talen (Engels, Spaans, Frans, Duits en Italiaans) met vier verschillende chatbots: ChatGPT, Gemini, Grok en DeepSeek.
- Vragen met een pro-Russische vooringenomenheid gaven significant vaker (24% van de tijd) Kremlin-geaffilieerde bronnen dan neutrale vragen (11% van de tijd). Dit suggereert dat de chatbots de neiging hebben om door de gebruiker geformuleerde standpunten te bevestigen (confirmation bias).
- ChatGPT verwees van alle geteste modellen het vaakst naar Russische staatsbronnen en bleek het meest gevoelig voor bevooroordeelde zoekopdrachten.
- Gemini (van Google) toonde daarentegen bij verdachte zoekopdrachten vaak veiligheidswaarschuwingen dat het "ongepaste of onveilige onderwerpen" niet kon helpen, een beveiligingsmechanisme dat bij de andere modellen ontbrak.
Gevoelige onderwerpen
Bepaalde onderwerpen waren vatbaarder voor de vermelding van Russische bronnen. Vragen over de militaire rekrutering van burgers door Oekraïne en de perceptie van de NAVO resulteerden vaker in citaten uit staatsmedia dan vragen over Oekraïense vluchtelingen of oorlogsmisdaden.
EU-regelgeving in het vizier
Het onderzoek roept serieuze vragen op over het vermogen van AI-bedrijven om gesanctioneerde media te beperken, een uitdaging die de gehele Europese Unie aangaat.
Met bijna 45 miljoen gebruikers in de EU nadert ChatGPT de drempel om door de Europese Commissie te worden aangemerkt als een Very Large Online Search Engine (VLOSE) onder de Digital Services Act (DSA). Een dergelijke aanwijzing zou hogere eisen stellen aan risicobeoordeling, transparantie en naleving van EU-sancties.
Het ISD roept AI-bedrijven op om gezamenlijk een database van staatsgeaffilieerde bronnen te ontwikkelen en deze te zwartlijsten of te voorzien van duidelijke contextlabels om de verspreiding van propaganda tegen te gaan.
