Gartner enquête onthult toename van aanvallen met generatieve AI

De enquête, gehouden van maart tot mei 2025 onder 302 cybersecurityleiders in Noord-Amerika, EMEA en Azië/Pacific, toont een verontrustend beeld van het veranderende cyberlandschap. De bevindingen werden gepresenteerd tijdens de Gartner Security & Risk Management Summit in Londen en benadrukken de urgente behoefte voor organisaties om hun verdedigingsstrategieën aan te passen.

Deepfake en AI-manipulatieaanvallen domineren

De opkomst van generatieve AI heeft het aanvalsoppervlak vergroot, waarbij aanvallers nieuwe technieken inzetten. Uit de enquête blijkt dat:

62% van de organisaties werd geconfronteerd met een deepfake-aanval, die vaak wordt gebruikt voor social engineering of het uitbuiten van geautomatiseerde processen. Deze aanvallen maken gebruik van AI om bedrieglijk realistische audio-, video- en beeldfakes te creëren, waardoor het voor slachtoffers moeilijk wordt om de authenticiteit te verifiëren.

32% van de organisaties ervoer een aanval op hun AI-applicaties door het manipuleren van prompts (opdrachten). Aanvallers gebruiken specifieke technieken, bekend als 'adversarial prompting', om grote taalmodellen (LLM's) of multimodale modellen te misleiden en schadelijke of bevooroordeelde output te genereren.

Volgens Akif Khan, VP Analyst bij Gartner, zijn aanvallen met GenAI, zoals phishing en social engineering, inmiddels "mainstream" geworden. Tegelijkertijd winnen nieuwe dreigingen zoals aanvallen op AI-infrastructuur en prompt-gebaseerde manipulaties aan terrein.

Strategieën voor een veerkrachtige verdediging

Hoewel de meerderheid van de cybersecurityleiders (67%) erkent dat opkomende GenAI-risico's significante veranderingen vereisen, waarschuwt Gartner voor overhaaste beslissingen. In plaats van ingrijpende aanpassingen of geïsoleerde investeringen, adviseert Khan een meer evenwichtige strategie.

"Organisaties moeten hun kerncontroles versterken en gerichte maatregelen implementeren voor elke nieuwe risicocategorie," aldus Khan. Dit betekent dat basisbeveiligingsprotocollen, zoals sterke authenticatie en netwerksegmentatie, essentieel blijven, terwijl specifieke controles worden ontwikkeld om de unieke risico's van GenAI-applicaties aan te pakken. Gartner benadrukt het belang van een gelaagde verdediging die zowel gevestigde als nieuwe dreigingen aanpakt.

Aanbevelingen voor organisaties

Gezien de snelle evolutie van AI-gerelateerde aanvallen, adviseert Gartner cybersecurityleiders om:

AI-geletterdheid binnen hun teams te bevorderen om de risico's en beperkingen van AI-systemen te begrijpen.

Gericht te investeren in oplossingen die specifiek ontworpen zijn om AI-aanvallen te detecteren en te voorkomen.

Samen te werken met ontwikkelaars om beveiliging in te bouwen tijdens de ontwikkeling van GenAI-applicaties, in plaats van achteraf beveiliging toe te voegen.

De opkomst van GenAI-aanvallen onderstreept de noodzaak voor organisaties om proactief te handelen. Door een evenwichtige aanpak te hanteren, kunnen zij innovatie blijven omarmen terwijl ze hun digitale assets effectief beschermen tegen een steeds geavanceerder wordende dreiging.