AP publiceert visie op generatieve AI

In haar visiedocument 'Verantwoord vooruit' zet de Autoriteit Persoonsgegevens (AP) uiteen hoe Nederland de vruchten kan plukken van generatieve AI zonder fundamentele waarden en grondrechten uit het oog te verliezen. De toezichthouder benadrukt dat deze technologie welvaarts- en welzijnsverhogende kansen biedt in sectoren zoals de zorg en het onderwijs, mits de inzet veilig en rechtmatig gebeurt.

'Waarden aan het werk': Het gewenste toekomstbeeld

De AP beschrijft verschillende scenario's voor 2030 en spreekt een duidelijke voorkeur uit voor het 'waarden aan het werk'-scenario. In dit scenario:

Staat de menselijke maat centraal en is er een balans tussen innovatie en de bescherming van de democratie en grondrechten.

Is er sprake van effectieve regulering en een groot onderling vertrouwen in de technologie.

Heeft Europa een sterke digitale autonomie, waardoor we minder afhankelijk zijn van een klein aantal dominante spelers van buiten de EU.

Aandachtspunten voor verantwoorde inzet

Voor organisaties die met generatieve AI aan de slag willen, heeft de AP een aantal cruciale aandachtspunten geformuleerd (zie ook Figuur 1 in het rapport):

Doelbinding: De inzet moet een helder en afgebakend doel hebben; ga altijd na of AI wel de meest geschikte oplossing is voor dat specifieke probleem.

AI-geletterdheid: Er moet voldoende kennis aanwezig zijn op zowel de werkvloer als in de bestuurskamer over hoe de systemen werken en wat de bijbehorende risico's zijn.

Controle over data: Organisaties moeten overzicht houden over welke data (inclusief persoonsgegevens) worden ingevoerd en hoe deze worden verwerkt.

Beheersing van risico's: Specifieke aandacht is nodig voor fenomenen als 'hallucinaties' (onjuiste informatie die geloofwaardig wordt gepresenteerd) en 'bias' (vooringenomenheid in de output).

Juridisch kader en trends

De AP stelt dat rechtmatige ontwikkeling en inzet van generatieve AI mogelijk is onder de Algemene verordening gegevensbescherming (AVG), maar waarschuwt voor technische uitdagingen. In 2026 zal de toezichthouder een gedetailleerde juridische analyse publiceren over dit onderwerp. Daarnaast bereidt de AP zich voor op haar rol bij het toezicht op de Europese AI-verordening.

Wat betreft trends signaleert de AP een snelle verschuiving naar meer specialistische en kleinere modellen die in eigen beheer gedraaid kunnen worden. Ook de opkomst van 'AI-agents'—systemen die autonoom acties kunnen uitvoeren—is een belangrijke ontwikkeling die nauwlettend wordt gevolgd.

Met deze visie wil de AP niet alleen toezicht houden, maar ook bijdragen aan een breed maatschappelijk debat. De toezichthouder roept op tot een gezamenlijke inspanning van burgers, bestuurders en ontwikkelaars om de rol van AI in onze samenleving vorm te geven.