Slechts vier op de tien organisaties zet in op waarborgen van betrouwbaarheid AI

Dat blijkt uit het IDC Data and AI Impact Report: The Trust Imperative, een wereldwijd onderzoek in opdracht van SAS naar het gebruik en de impact van artificiële intelligentie. Uit het onderzoek, waaraan 2.375 IT-professionals en topmanagers uit zes wereldregio’s deelnamen, blijkt dat opkomende technologieën zoals generatieve AI en agentic AI meer vertrouwen genieten dan traditionele AI-vormen. Bijna de helft van de respondenten (48%) geeft aan generatieve AI ‘volledig te vertrouwen’, tegenover 18% voor traditionele AI, zoals machine learning. Toch maken deelnemers zich zorgen over dataprivacy (62%), transparantie (57%) en ethisch gebruik (56%).

Zijn de systemen ook altijd betrouwbaar?

“Er komt een tegenstrijdigheid naar voren uit ons onderzoek. Algemeen bekende AI-systemen met mensachtige interactie lijken namelijk het meest vertrouwen in te boezemen, ongeacht hun werkelijke betrouwbaarheid of nauwkeurigheid”, zegt Kathy Lange, Research Director AI & Automation Practice bij IDC. “Als AI-providers, professionals en private gebruikers moeten we ons de vraag stellen: generatieve AI geniet wel vertrouwen, maar zijn de systemen ook altijd betrouwbaar? En passen leiders de nodige voorzorgs- en governancemaatregelen toe voor deze nieuwe technologie?”

Ook quantum AI wint aan vertrouwen, hoewel de technologie nog in ontwikkeling is. Bijna een derde van de besluitvormers is bekend met quantum AI, en 26% heeft er vol vertrouwen in – ondanks beperkte praktische toepassingen.

Hoewel 78% van de organisaties aangeeft AI volledig te vertrouwen, heeft slechts 40% concrete maatregelen genomen om systemen betrouwbaarder te maken. Slechts 2% noemt de ontwikkeling van een AI-governancekader een topdrieprioriteit, en minder dan 10% werkt aan een beleid voor verantwoord AI-gebruik. Bedrijven die wél prioriteit geven aan betrouwbare AI, hebben 1,6 keer meer kans op een hoger rendement.

Data en governance als grootste uitdagingen

De kwaliteit van data en governance vormen de grootste obstakels voor succesvolle AI-implementaties. Bijna de helft van de bedrijven (49%) noemt een niet-gecentraliseerde data-infrastructuur of niet-geoptimaliseerde clouddata als belangrijkste belemmering. Andere knelpunten zijn onvoldoende datagovernance (44%) en een tekort aan gespecialiseerde medewerkers (41%). Daarnaast worstelen organisaties met toegang tot relevante databronnen (58%), dataprivacy (49%) en datakwaliteit (46%).

“Het vertrouwen in AI is van cruciaal belang voor de samenleving, bedrijven en werknemers”, zegt Bryan Harris, Chief Technology Officer van SAS. “Hiertoe moet de AI-sector de succesgraad van de implementaties verhogen, moeten mensen AI-resultaten met een kritische blik bekijken en moet het management werknemers de kracht van AI in handen geven.”

Het volledige onderzoeksrapport is hier beschikbaar. Een paneldiscussie op LinkedIn met experts van SAS, Deloitte en IDC, gemodereerd door Nicholas Thompson (CEO van The Atlantic), verdiept zich in de bevindingen.