Veeam: organisaties maken zich zorgen over shadow agents

Deze bevindingen tonen een cruciale uitdaging aan: hoe kunnen organisaties ervoor zorgen dat de data die AI-agents aandrijven betrouwbaar, veilig en veerkrachtig blijft? Zonder de juiste governance, transparantie en bescherming lopen bedrijven het risico gevoelige informatie bloot te leggen, compliance-risico’s te verhogen en de beveiligingsmaatregelen te omzeilen die nodig zijn om AI veilig en vol vertrouwen op te schalen.

AI-governance is nu een directieverantwoordelijkheid

De toenemende druk van regelgeving en de grotere verantwoordelijkheid van bestuurders zorgen ervoor dat AI-governance niet langer beperkt blijft tot de technische backoffice, maar zich verplaatst naar de directiekamer. 58% van de ondervraagde organisaties valt nu onder de nieuwe wetgeving inzake bedrijfsverantwoordelijkheid. Zorgwekkend is echter dat 12% van de organisaties aangeeft dat precies deze individuele verantwoordelijkheden onduidelijk zijn.

Deze toegenomen verantwoordelijkheid heeft een duidelijke impact op directieteams:

40% van de bestuurders maakt zich zorgen over persoonlijke aansprakelijkheid

39% meldt dat er meer toezicht is door de raad van bestuur

37% zegt meer stress of angst te ervaren 

32% zegt dat dit tot spanning of conflicten met andere directieleden heeft geleid

Het onderzoek wijst echter ook op een positieve verschuiving: 45% zegt dat er meer afstemming plaatsvindt tussen leiderschapsteams en dat er meer aandacht is voor cyberweerbaarheid.

“Directieleden hebben nog nooit zoveel aandacht moeten besteden aan databeheer en regelgeving rond cyberveiligheid”, aldus Tim Pfaelzer, General Manager en Senior Vice President voor EMEA bij Veeam. “Hoewel de toegenomen stress en spanning volkomen begrijpelijk zijn, stelt een betere afstemming op bestuursniveau organisaties veel beter in staat om te vertrouwen op hun data- en AI-governancepraktijken. Meer afstemming leidt uiteindelijk tot beter databeheer, meer inzicht en betere bescherming van de hele organisatie.”

‘Shadow agents’ verspreiden zich sneller dan governance kan bijbenen

Het onderzoek onthult een gefragmenteerde aanpak van AI-governance bij organisaties in EMEA. Vooral Duitsland kampt met grote uitdagingen: 81% van de leidinggevenden geeft toe dat geautomatiseerde workflows zonder toezicht interageren met gevoelige data. Maar liefst 79% zegt dat medewerkers ‘shadow workflows’ creëren die IT-teams niet kunnen traceren.

Het Verenigd Koninkrijk staat voor vergelijkbare uitdagingen: 75% van de organisaties heeft onvoldoende inzicht in de manier waarop AI-agents omgaan met gevoelige data.

Dit gebeurt ondanks aanzienlijke investeringen in meer controle op AI-modellen en -tools. In de EMEA-regio bouwt 41% van de organisaties eigen lokale of soevereine AI-modellen, specifiek met als doel om shadow AI te bestrijden. Bijna de helft (49%) kiest voor een hybride aanpak, waarbij lokale en soevereine modellen worden gebruikt voor gevoelige data en openbare modellen voor algemenere taken.

Organisaties in het Midden-Oosten en Afrika (MEA) vormen hierop een uitzondering: 41% vertrouwt op openbare AI-leveranciers voor alle toepassingen. Dit verschil kan mede samenhangen met de impact van EU-regelgeving op AI-governance binnen Europese organisaties.  

“Organisaties in EMEA worstelen nog steeds met governance”, aldus Pfaelzer. “Dit onderzoek laat echter zien dat de sector het verkeerde gesprek voert over AI-vertrouwen. Het is simpelweg niet schaalbaar om duizenden autonome agents één voor één te controleren. Om AI op bedrijfsniveau veilig te maken, moeten organisaties de data waarop agents gebaseerd zijn begrijpen, beheren en beveiligen.”

Het gebrek aan vertrouwen in de EU AI Act legt governance-risico’s bloot

Uit het onderzoek blijkt dat de overgrote meerderheid (83%) van de leidinggevenden denkt dat de EU AI Act een positieve impact zal hebben op de cyberresilience van zowel individuele organisaties als de bredere IT-sector. Tegelijkertijd is 62% van mening dat ‘onduidelijkheden of grijze gebieden’ een risico vormen voor de naleving van de wet. Nog eens 63% vreest dat de wet onbedoelde operationele of juridische risico’s met zich mee kan brengen. Met name het Verenigd Koninkrijk en Duitsland maken zich hier zorgen over. In deze landen ziet respectievelijk 74,4% en 73,6% deze onduidelijkheden als een risico voor de naleving van de wet.

Bezoek de website voor meer informatie.