Driekwart Nederlandse managers voelt druk om AI-initiatieven snel te implementeren

Dit blijkt uit onderzoek van TrendAI onder 3.700 besluitvormers wereldwijd, waaronder 100 uit Nederland. De druk wordt versterkt door onduidelijkheid over verantwoordelijkheden en inconsistenties in governancekaders. Volgens het onderzoek wordt de CISO (43%) en de legal/compliance-teams (28%) het vaakst aangewezen als eindverantwoordelijke voor het beheren van AI-risico’s, terwijl het bestuur minder vaak (23%) wordt genoemd. Daarnaast reageren beveiligingsteams vaak reactief op top-downbeslissingen over AI-implementatie, wat leidt tot noodoplossingen en een toename in het gebruik van niet-goedgekeurde of ‘schaduw-AI’-tools.

Rachel Jin, Chief Platform & Business Officer en Head of TrendAI: “Organisaties zijn zich wel bewust van de risico’s, maar hebben niet de frameworks om deze te beheersen. Wanneer de implementatie van AI wordt gedreven door concurrentiedruk in plaats van volwassen governance, ontstaat er een situatie waarin AI in kritieke systemen wordt geïntegreerd zonder de benodigde controlemechanismen. Dit onderzoek bevestigt onze focus om organisaties te helpen solide bedrijfsresultaten te behalen en tegelijkertijd AI-risico’s te beheersen.”

AI wordt ook ingezet door cybercriminelen

Uit aanvullend onderzoek van TrendAI blijkt dat cybercriminelen AI gebruiken om hun verkenningsactiviteiten te automatiseren, phishingcampagnes te versnellen en de drempel voor cybercriminaliteit te verlagen. Dit resulteert in een toename van zowel de snelheid als de schaal van aanvallen.

Organisaties implementeren AI sneller dan dat ze de bijbehorende risico’s kunnen beheersen, waardoor de kloof tussen ambitie en toezicht groeit. Bijna de helft (47%) van de Nederlandse organisaties is het hiermee eens. Ondertussen geeft iets meer dan een kwart van de respondenten aan vertrouwen te hebben in hun kennis van de wettelijke kaders rondom AI. Er is een groot verschil zichtbaar tussen IT-leiders (52%) en zakelijke leiders (20%).

De governance-volwassenheid op het gebied van AI is laag: slechts 24% van de Nederlandse organisaties heeft een officieel AI-beleid. Onduidelijke regelgeving (28%), een gebrek aan intern beleid (38%) en onduidelijkheid over verantwoordelijkheden (37%) worden genoemd als belangrijke barrières voor het opstellen van AI-beleid. Dit leidt ertoe dat AI-technologie vaak wordt ingezet voordat de regels voor het gebruik ervan volledig zijn vastgesteld.

Vertrouwen in autonome AI blijft beperkt

Het vertrouwen in geavanceerde, autonome AI-systemen is nog beperkt. Slechts 35% van de Nederlandse organisaties gelooft dat AI-agents de cyberbeveiliging op korte termijn significant zullen verbeteren. De grootste zorgen zijn het groeiende aanvalsoppervlak (40%), de (onbedoelde) blootstelling van gevoelige gegevens (35%) en misbruik van de vertrouwde status van AI (32%).

Meer dan een derde (38%) van de Nederlandse organisaties geeft toe geen volledig inzicht of controle te hebben over AI-systemen. Dit roept vragen op over hoe organisaties kunnen ingrijpen als deze systemen niet naar behoren functioneren. Een kwart (25%) van de organisaties steunt de introductie van AI ‘kill-switch’-mechanismen, die systemen uitschakelen bij storingen of misbruik. Meer dan de helft (55%) van de respondenten weet niet of dergelijke noodmechanismen nuttig zijn. Dit gebrek aan consensus wijst op een dieperliggend probleem: organisaties stappen over op autonome AI, maar zijn het niet eens over hoe ze de controle kunnen behouden wanneer dat het meest nodig is.

“Agentic AI zorgt voor geheel nieuwe risico’s”, aldus Rachel Jin. “Uit ons onderzoek blijkt dat de zorgen al duidelijk zijn, van het blootstellen van gevoelige gegevens tot het verlies van toezicht. Zonder inzicht en controle implementeren organisaties echter systemen die ze niet volledig begrijpen of beheersen, en dat risico zal alleen maar toenemen tenzij er maatregelen worden genomen.”

Het volledige onderzoek is hier te vinden.