De volgende stap in cybersecurity: het beveiligen van mensen en AI-agents

Dubbelrol 

Jarenlang vormde security awareness de basis van het cybersecuritybeleid. Organisaties investeerden in trainingen, phishingcampagnes en -simulaties om medewerkers bewuster te maken van digitale risico's. Die aanpak heeft veel opgeleverd. Medewerkers herkennen cyberdreigingen beter, organisaties voldoen beter aan wet- en regelgeving en security is inmiddels stevig verankerd in de bedrijfsvoering. 
Tegelijkertijd is het speelveld sterk veranderd. Terwijl cybercriminelen AI inzetten om aanvallen slimmer, persoonlijker en geloofwaardiger te maken, gebruiken organisaties AI om beveiligingsprocessen te ondersteunen en te automatiseren. Ze analyseren documenten, verwerken e-mails, beantwoorden vragen en voeren zelfstandig acties uit binnen bedrijfsprocessen. Daarmee functioneren zij steeds meer als digitale collega's. Hiermee verandert niet alleen de aard van de dreiging, maar ook de manier waarop organisaties cyberrisico's moeten beheersen. 
AI speelt daarin een dubbelrol. Enerzijds introduceert het nieuwe risico's doordat AI-agents steeds zelfstandiger opereren. Anderzijds maakt AI het juist mogelijk om gedrag op grote schaal te analyseren, risico's vroegtijdig te signaleren en gerichte ondersteuning te bieden. Zo verschuift cybersecurity van een statisch trainingsprogramma naar een dynamische, AI-gedreven aanpak die zich continu aanpast aan nieuwe risico's en de volledige digitale workforce organisatiebreed ondersteunt. 

EchoLeak-aanval

Ook AI-agents zijn als digitale collega’s niet immuun voor manipulatie. Dat blijkt onder meer uit de zogenaamde EchoLeak-aanval.  Bij deze aanval werd een kwaadaardige instructie verborgen in ogenschijnlijk onschuldige content die door een AI-agent werd verwerkt. De agent interpreteerde deze instructie als legitiem en kon vervolgens gevoelige informatie delen of ongewenste acties uitvoeren. Er was geen malware, geen gestolen account en geen verdachte login. De aanval richtte zich op de manier waarop de AI-agent informatie interpreteert en verwerkt.

In veel opzichten lijkt dit op social engineering. Net zoals mensen kunnen AI-agents worden beïnvloed door de informatie die zij ontvangen. Ze kunnen worden overtuigd om een instructie uit te voeren die ze eigenlijk hadden moeten weigeren. Alleen gebeurt dit op machinesnelheid en vaak zonder dat direct zichtbaar is waarom een bepaalde beslissing is genomen.
Daarmee verandert de manier waarop organisaties naar beveiliging moeten kijken. Bij traditionele software draait security vooral om kwetsbaarheden, ongeautoriseerde toegang en afwijkend systeemgedrag. AI-agents functioneren anders. Zij handelen binnen de rechten die zij rechtmatig hebben gekregen, gebruiken geautoriseerde accounts en communiceren met systemen waarvoor zij toestemming hebben. Het risico ontstaat niet doordat zij een beveiliging omzeilen, maar doordat zij een verkeerde beslissing nemen.

Om dat soort risico's te beheersen is meer nodig dan traditionele monitoring. Organisaties moeten inzicht krijgen in de context waarin een AI-agent opereert: welke informatie ontving de agent, welke instructies interpreteerde hij, welke afweging maakte hij en waarom leidde dat tot een bepaalde actie? Dat vraagt om een nieuwe beveiligingslaag die AI-agents tijdens hun uitvoering monitort en beoordeelt op intentie en gedrag.
In de praktijk werken veel organisaties nog met afzonderlijke dashboards en metrics: één voor awareness-trainingen, één voor e-mailbeveiliging en weer een andere voor AI-risico's. Hoewel deze inzichten waardevol zijn, geven ze slechts een deel van het totaalbeeld. Ze laten zien waar risico's bestaan, maar bieden onvoldoende houvast om gericht en effectief in te grijpen.
De beveiliging van AI-agents vraagt daarmee om dezelfde uitgangspunten als de beveiliging van mensen: niet alleen controleren wat er gebeurt, maar vooral begrijpen waarom een bepaalde beslissing wordt genomen. De gedragsprincipes zijn vergelijkbaar, maar de technologie en de beveiligingsmechanismen zijn fundamenteel anders.

Geïntegreerde aanpak

De belangrijkste ontwikkeling die organisaties vandaag moeten omarmen, is dat menselijke risico's en AI-risico's niet langer los van elkaar kunnen worden beheerd. In de moderne organisatie vormen medewerkers en AI-agents samen één digitale workforce. Dat vraagt ook om één geïntegreerde aanpak voor het meten, beoordelen en beheersen van risico's.
Een geïntegreerde benadering maakt het mogelijk om de risico's van de volledige digitale workforce continu te meten en te verbeteren. Daarbij gaat het niet alleen om het registreren van incidenten, maar vooral om het analyseren van daadwerkelijk gedrag, het identificeren van de grootste risico's en het gericht ondersteunen van medewerkers én AI-agents. Door die cyclus voortdurend te herhalen, ontstaat een beveiligingsstrategie die zich net zo snel aanpast als de organisatie zelf.

Door: Martin Kraemer, CISO Advisor bij KnowBe4