Gartner: 'Acht op de tien overheden zet in 2028 AI-agents in voor routinematige besluitvorming'

Overheids-CIO’s staan onder toenemende druk om AI snel en verantwoord in besluitvormingsprocessen te integreren, zegt Daniel Nieto, Sr. Director Analyst bij Gartner. Multimodale AI en conversatie- en agentsystemen vergroten de mogelijkheden voor automatisering, begrip en anticipatie binnen publieke organisaties vergroot.

Een van de grootste belemmeringen voor het benutten van AI binnen de overheid is fragmentatie. Zo ziet 41% van de respondenten silo’s in strategieën en 31% verouderde systemen als belangrijke uitdagingen bij het adopteren en implementeren van digitale oplossingen, blijkt uit een enquête van Gartner onder 138 respondenten uit overheidsorganisaties wereldwijd. "Alleen technologische modernisering lost deze problemen niet op," aldus Nieto.

Van model- naar besluitgerichte governance

Naarmate AI zich ontwikkelt van experimentele toepassingen naar een diepgaande integratie in besluitvorming, moet ook de governance-aanpak evolueren. Traditioneel richtte AI-governance zich op modellen, data en algoritmen. Decision intelligence (DI) verplaatst deze focus naar governance van besluiten zelf, bijvoorbeeld hoe zij tot stand komen, worden uitgevoerd of worden gemonitord.

39% van de respondenten noemt verbeterde dienstverlening en tevredenheid van burgers als belangrijkste redenen om te investeren in het opbouwen van burgervertrouwen. DI biedt volgens Gartner een structurele basis voor dit vertrouwen door besluitvormingsprocessen expliciet en controleerbaar te maken.

"Door besluiten te besturen in plaats van geïsoleerde AI-componenten, kunnen overheden automatisering beter in balans brengen met menselijk oordeel, met name in situaties met hoge inzet of impact op rechten," zei Nieto. "Gereguleerde industrieën en overheden kunnen niet vertrouwen op ondoorzichtige 'black box'-systemen voor belangrijke beslissingen. DI tilt verklaringskracht van een technische vereiste naar een bestuurlijke noodzaak."

Transparantie en menselijke controle

Gartner voorspelt dat tegen 2029 70% van de overheidsinstanties verklarende AI (XAI) en human-in-the-loop (HITL)-mechanismen vereist voor alle geautomatiseerde beslissingen die invloed hebben op de dienstverlening aan burgers. De marktonderzoeker noemt XAI en HITL fundamenteel voor DI in de publieke sector. De mechanismen zorgen ervoor dat de logica achter beslissingen kan worden geïnspecteerd, verklaard en betwist. Mensen behouden hierdoor de autoriteit over uitzonderingen, ingediende bezwaren en hoogrisicosituaties, terwijl de verantwoordelijkheid ondanks de toenemende automatisering duidelijk blijft.

Hoewel efficiëntie belangrijk blijft, wordt het vertrouwen van burgers in de overheid om effectieve diensten te leveren een belangrijke drijfveer voor digitale transformatie. Vijftig procent van de overheidsrespondenten noemt verbeterde burgerervaring als een van hun topdrieprioriteiten. "Naarmate AI en decision intelligence de dienstverlening steeds meer automatiseren en stroomlijnen, evolueert het traditionele begrip van 'burgerervaring'", zegt Nieto. "Wanneer burgers automatisch krijgen wat ze nodig hebben van de overheid, kunnen directe interacties afnemen. Dit maakt vertrouwen in de betrouwbaarheid, eerlijkheid en transparantie van het systeem nog belangrijker. Omdat vertrouwen in deze situaties zo cruciaal is, kan het voorspellende vermogen om potentiële behoeften te anticiperen de manier waarop digitale overheidsdiensten worden geleverd ingrijpend veranderen."

DI stelt overheden volgens Gartner in staat om besluitvormingsprocessen in burgergerichte diensten te herontwerpen van reactieve, procesgedreven interacties naar proactieve en gepersonaliseerde betrokkenheid. Dit verbetert niet alleen de consistentie en vermindert vertragingen, maar versterkt ook de waargenomen eerlijkheid en bouwt publiek vertrouwen op, zelfs als direct contact met overheidsmedewerkers minder frequent wordt.

Meer informatie is voor klanten van Gartner beschikbaar in 'Top Trend in Government: AI for Decision Intelligence'.