Nederlandse overheid reageert op rapport AP over AI-risico's

De staatssecretaris erkent de risico's en effecten van AI die de AP benoemt, maar benadrukt dat het kabinet zich onverminderd zal inzetten voor de verantwoorde inzet van deze technologieën. Van Marum stelt dat AI een "blijvende en transformerende rol" zal spelen en dat de overheid de kansen die het biedt wil benutten, terwijl ze zorgt voor transparantie, veiligheid en democratische controle.

Voortgang van AI-registratie en toezicht

Hoewel de AP de kaders en registraties voor AI/algoritmen als een "goede stap" beschouwt, stelt zij dat de voortgang van de registratie van AI- en algoritmesystemen nog onvoldoende is. Dit gebrek aan voortgang resulteert in onvoldoende zicht op toepassingen met een hoger risico. Het kabinet erkent dit punt en meldt dat afspraken zijn gemaakt met rijksorganisaties om alle AI-systemen met een hoog risico voor het einde van het jaar te registreren. De overheid onderzoekt ook of het verplicht stellen van registraties een gewenste stap is.

Het kabinet is momenteel bezig met de voorbereiding van het toezicht op de AI-verordening, een proces waarover de Tweede Kamer in het najaar van 2025 zal worden geïnformeerd. De Rijksinspectie Digitale Infrastructuur (RDI) en de AP hebben eind 2024 al een advies uitgebracht over de inrichting van dit toezicht in Nederland.

Zorgen over AI-chatbots en AI-geletterdheid

De AP uit in haar rapport specifieke zorgen over de groeiende inzet van AI-chatbots, vooral in therapeutische relaties. Volgens de AP zijn deze chatbots over het algemeen onvoldoende transparant, onbetrouwbaar en riskant in crisissituaties. De AP pleit daarom voor meer onderzoek naar de risico’s van chatbots in de geestelijke gezondheidszorg. De staatssecretaris reageert hierop door te melden dat er momenteel geen specifiek onderzoek naar dit onderwerp wordt gedaan, maar dat verschillende rapportages wel ingaan op de kansen en uitdagingen. De staatssecretaris benadrukt ook dat, indien de overheid besluit generatieve AI-modellen en/of applicaties te gebruiken, er in de inkoopvoorwaarden duidelijke afspraken moeten worden gemaakt over de betrouwbaarheid, het veilige gebruik van data en transparantie.

Daarnaast constateert de AP dat een meer alomvattende aanpak nodig is voor het beheersen van AI-systemen in overheidsorganisaties, waarbij de nadruk ligt op een 'AI-keten' en het belang van 'AI-geletterdheid'. De staatssecretaris is het hiermee eens en geeft aan dat er al wordt gewerkt aan het verbeteren van de digitale vaardigheden van ambtenaren, onder meer via het programma Digitaal Vakmanschap en de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO). Deze initiatieven richten zich op zowel de technische als juridische aspecten van generatieve AI.

Van Marum besluit de brief met de mededeling dat de periodieke rapporten van de AP een goede graadmeter zijn die het kabinet in staat stelt het beleid waar nodig aan te scherpen.