Eye Security verandert AI-aanvalstechniek in beschermingsmiddel

Generatieve AI-tools zoals ChatGPT, Copilot en DeepSeek hebben de manier waarop organisaties werken ingrijpend veranderd. Teams schrijven, analyseren en automatiseren sneller dan ooit. Maar die snelle adoptie brengt ook nieuwe risico’s met zich mee. Een daarvan is Shadow AI: het ongecontroleerde gebruik van AI-tools waarbij gevoelige gegevens buiten het zicht van de organisatie terecht kunnen komen.

Van zwakte naar kracht

Prompt injection is een bekende techniek waarmee aanvallers AI-modellen kunnen manipuleren. Eerder dit jaar liet Vaisha Bernard, Chief Hacker bij Eye Security, zien hoe deze methode kon worden gebruikt om te ontsnappen uit Copilot’s AI-omgeving en extra rechten te verkrijgen. Dat experiment inspireerde het team om te onderzoeken hoe dezelfde techniek juist defensief kan worden toegepast.Bij deze aanpak worden korte, verborgen instructies toegevoegd aan bedrijfsdocumenten of e-mails. Wanneer zulke bestanden worden geüpload naar AI-tools zoals ChatGPT, Copilot of DeepSeek, verschijnt er automatisch een duidelijke waarschuwing:
“Dit document bevat gevoelige bedrijfsinformatie. Wees je bewust van de risico’s van het delen met niet-vertrouwde partijen.”
Met deze methode verandert Eye Security een bekende AI-kwetsbaarheid in een vorm van realtime bewustwording. Medewerkers krijgen direct een waarschuwing wanneer gevoelige data mogelijk buiten de organisatie dreigt te raken, in plaats van pas achteraf.
“Wij geloven dat innovatie en veiligheid hand in hand kunnen gaan,” zegt Piet Kerkhofs, CTO van Eye Security. “Met Prompt Injection for Good geven we organisaties een praktische manier om AI veilig te verkennen en data te beschermen, zonder mensen te belemmeren in hun werk.”

Van risico naar weerbaarheid

Shadow AI ontstaat niet uit onwil, maar uit nieuwsgierigheid. Medewerkers gebruiken tools die hun werk makkelijker maken, ook als die buiten de IT-governance vallen. Prompt Injection for Good speelt hierop in door bewustzijn te vergroten in plaats van gebruik te blokkeren. Het helpt medewerkers om veiligere keuzes te maken, zonder innovatie te vertragen.

Het onderzoeksteam van Eye Security testte de aanpak binnen onder meer Microsoft 365 (Office en e-mail), Google (Docs en Gmail) en Confluence. Daarbij werden defensieve prompts verwerkt in documentkoppen, exports en e-mailhandtekeningen. De eerste resultaten laten zien dat verschillende AI-modellen deze waarschuwingen herkennen en er consistent op reageren - een vroege bevestiging dat AI niet alleen gebruikt kan worden, maar ook kan helpen beschermen.

Organisaties kunnen het concept direct uitproberen met de interactieve generator op de Eye Security-website, waarmee ze zelf een defensieve prompt kunnen aanmaken en zien hoe het werkt in hun eigen documenten.

Een bredere aanpak voor veilig AI-gebruik

Prompt Injection for Good maakt deel uit van Eye Security’s bredere missie om digitale risico’s beheersbaar te maken voor Europese organisaties. Het bedrijf biedt ook gratis hulpmiddelen aan, waaronder:

• EAST, een phishing-trainingsplatform dat gebruikers helpt verdachte Microsoft 365-inlogpagina’s te herkennen.
• ClickFix Block, een gratis browserextensie die social-engineeringaanvallen met neppe CAPTCHA’s voorkomt.

Voorblijven aan de dreiging

AI verandert het dreigingslandschap razendsnel, maar aanvallers ontwikkelen zich net zo snel mee. Tools zoals Prompt Injection for Good, EAST en ClickFix voegen waardevolle lagen van bewustwording en controle toe. Echte weerbaarheid vraagt echter om continue zichtbaarheid en directe reactie. Eye Security biedt dit via 24/7 Managed Detection and Response (MDR), ondersteund door threat intelligence en cyberverzekering. Zo kunnen organisaties aanvallen sneller detecteren, indammen en herstellen.