Overheid stelt regels op voor AI-updates in lopende IT-contracten

De handreiking, getiteld 'Help! Mijn huidige dienst krijgt een update met AI erin, wat te doen?', biedt een praktisch stappenplan voor situaties waarin software die al eerder is aangeschaft opeens wordt uitgebreid met kunstmatige intelligentie.

Risico’s inschatten en contracten aanpassen

Voor veel overheidsinstanties is het bij tussentijdse updates niet direct helder hoe zij verantwoord om moeten gaan met de nieuwe technologie. De nieuwe leidraad adviseert organisaties om allereerst te toetsen of de toegevoegde AI-component wel past binnen het oorspronkelijke doel en de voorwaarden van het lopende contract.

Daarnaast benadrukt de handreiking het belang van een grondige risicoanalyse van de specifieke AI-toepassing. Wanneer de functionaliteit binnen het contract blijkt te passen maar extra waarborgen vereist, wordt geadviseerd om aanvullende voorwaarden en afspraken vast te leggen in een officieel addendum.

Onderdeel van brede AI-inkoopstrategie

Het initiatiefvloeit voort uit de gezamenlijke digitaliseringsopgaven onder de vlag van de Nederlandse Digitaliseringsstrategie (NDS). De handreiking zal worden ingebed in een breder kader voor de inkoop van AI binnen de publieke sector.

Met dit overkoepelende inkoopkader willen de gezamenlijke overheden richtlijnen opstellen die nauw aansluiten bij de Europese AI-verordening en bestaande standaarden, zoals de Gemeentelijke Inkoop bij IT (GIBIT). Zo moeten overheidsorganisaties sneller en zorgvuldiger verantwoorde AI-systemen kunnen inzetten om de publieke dienstverlening te verbeteren, zonder dat privacy- of veiligheidsrisico's over het hoofd worden gezien.