AI-fouten bereiken bestuurskamer bij 1 op de 4 bedrijven

Uit het onderzoek, uitgevoerd onder ruim 2.200 finance-, risk- en duurzaamheidsprofessionals wereldwijd, komt een opmerkelijke paradox naar voren. Maar liefst 81 procent van de Nederlandse respondenten zegt enig vertrouwen te hebben in de nauwkeurigheid van AI-resultaten zonder dat daar menselijke controle aan te pas komt. Tegelijkertijd vindt slechts 14 procent de datakwaliteit binnen de eigen organisatie voldoende voor het gebruik van AI.

Wankel fundament bedreigt beleggersvertrouwen

De kloof tussen het enthousiaste AI-gebruik en de feitelijke controle erop zorgt voor aanzienlijke risico's. AI-systemen zijn immers zo betrouwbaar als de data waarmee ze gevoed worden. Bij veel bedrijven wringt daar de schoen: 43 procent van de Nederlandse professionals meldt dat gebrekkige data de inzet van AI bij financiële en duurzaamheidsrapportages belemmert. Ruim een vijfde (22%) geeft zelfs aan dat slechte data de AI-implementatie aanzienlijk heeft vertraagd.

Het niet-verifieerbaar zijn van data schaadt op termijn het vertrouwen van investeerders en toezichthouders. "Vertrouwen in AI zonder grip op datakwaliteit is een risico, geen strategie," waarschuwt Barbara Larsen, Chief Financial Officer bij Workiva. "CFO’s hebben platforms nodig die AI verbinden met betrouwbare, controleerbare data, zodat zij elke uitkomst kunnen verifiëren. Als bestuurders echt vertrouwen hebben in wat hun systemen opleveren, kunnen zij sneller handelen en AI integreren in hun bedrijfsvoering."

Behoefte aan sturing en 'human-in-the-loop'

Met de opkomst van steeds autonomere AI-agents benadrukken experts dat generatieve AI alleen niet volstaat voor kritische bedrijfsprocessen. Om fouten te voorkomen en controle te behouden, geven Nederlandse professionals aan dat er duidelijke randvoorwaarden nodig zijn:

47% heeft specifieke software nodig voor traceerbaarheid en controle.

45% geeft aan nog altijd vertrouwde systemen voor financiële registratie nodig te hebben.

41% vraagt om centrale platforms voor het beheren van AI-agents en geautomatiseerde processen.

"Investeerders en bestuurskamers willen kunnen vertrouwen op de antwoorden die zij krijgen," stelt Jason Darby, CFO van Amalgamated Bank. "De echte meerwaarde zit in gespecialiseerde AI, gebaseerd op betrouwbare en controleerbare data, en altijd gecombineerd met menselijk inzicht. Alleen dan kunnen organisaties met vertrouwen staan achter de beslissingen en rapportages die daaruit voortkomen."