Wouter Hoeffnagel - 14 december 2023

'GenAI gaat securitylandschap transformeren'

Generatieve AI (GenAI) speelt een transformerende rol in het cyberbeveiligingslandschap. Ook neemt de hoeveelheid geavanceerde social engineering-aanvallen en identiteitsdiefstal toe als gevolg van de brede beschikbaarheid van GenAI-tools.

'GenAI gaat securitylandschap transformeren' image

Hiervoor waarschuwt Trend Micro, dat zijn voorspellingen voor 2024 deelt. Pieter Molen (foto), Technical Director Benelux bij Trend Micro: “Geavanceerde large language models (LLM’s) vormen een aanzienlijke dreiging omdat ze ervoor zorgen dat traditionele indicatoren van phishing, zoals een vreemde opmaak of grammaticale fouten, niet langer zichtbaar zijn. Hierdoor wordt het buitengewoon lastig om phishing-e-mails te identificeren. Organisaties moeten verder gaan dan conventionele phishing-maatregelen en -trainingen en prioriteit geven aan de invoering van moderne beveiligingsmaatregelen. Deze moderne verdedigingsmechanismen zijn niet alleen beter in het identificeren van kwaadaardige e-mails dan mensen, maar zorgen ook voor meer veerkracht tegen deze tactieken.”

GenAI ontwricht phishing-markt

De brede beschikbaarheid en verbeterde kwaliteit van GenAI, in combinatie met het gebruik van Generative Adversarial Networks (GAN’s), zullen naar verwachting de phishing-markt in 2024 verder ontwrichten. Door deze transformatie is het mogelijk om hyperrealistische audio- en video-content op een kosteneffectieve manier te maken, waardoor business email compromise (BEC), virtuele ontvoering en andere vormen van oplichting zullen toenemen.

De potentieel lucratieve winsten die cybercriminelen kunnen behalen, zullen hen stimuleren om GenAI-tools verder te ontwikkelen voor criminele campagnes. Daarnaast zullen we vaker zien dat cybercriminelen legitieme tools met gestolen inloggegevens of VPN’s gebruiken om hun identiteit te verbergen.

AI/ML-modellen worden zelf ook doelwit

Hoewel GenAI- en LLM-datasets moeilijk te beïnvloeden zijn, zijn gespecialiseerde cloudgebaseerde machine learning-modellen makkelijker te compromitteren. De gerichte datasets waarop deze ML-modellen zijn getraind, zullen vaker doelwit worden van datavergiftigingsaanvallen, met als doel het stelen van gevoelige data of het verstoren van fraudefilters of zelfs verbonden voertuigen. Het kost tegenwoordig minder dan 100 dollar om dergelijke aanvallen uit te voeren.

Deze trends kunnen echter ook leiden tot meer toezicht door toezichthouders en een impuls geven aan de cyberbeveiligingssector om het heft in eigen handen te nemen. “Het komende jaar zal de cyberindustrie de overheid voorbijstreven wat betreft de ontwikkeling van cyberbeveiliging-specifiek AI-beleid of regelgeving”, aldus Greg Young, VP cybersecurity bij Trend. “De sector gaat snel over op zelfregulering op basis van opt-in.”

Meer cloud-native wormaanvallen

Er is een toename van cloud-native wormaanvallen op komst, gericht op kwetsbaarheden en verkeerde configuraties. Door een hoge mate van automatisering kunnen aanvallers met minimale inspanning meerdere containers, accounts of services beïnvloeden.

Cloudbeveiliging is cruciaal voor organisaties om hiaten in de beveiliging van cloudomgevingen aan te pakken. Omdat cloud-native applicaties kwetsbaarder zijn voor geautomatiseerde aanvallen, zijn proactieve maatregelen waaronder robuuste verdedigingsmechanismen en grondige beveiligingsaudits noodzakelijk om risico’s te beperken.

Aanvallen op de supply chain zullen zich niet langer alleen richten op upstream open-source softwarecomponenten, maar ook op tools voor inventaris-identiteitsbeheer. Verder gaan we vaker zien dat cybercriminelen de software supply chain van leveranciers exploiteren via CI/CD-systemen, met een specifieke focus op componenten van derden.

Meer aanvallen op private blockchains

Aanvallen op private blockchains zullen toenemen als gevolg van kwetsbaarheden in de implementatie hiervan. Kwaadwillenden kunnen adminrechten misbruiken om vermeldingen te wijzigen, te negeren of te wissen en vervolgens losgeld te eisen. Ook zullen ze proberen de hele blockchain te versleutelen wanneer ze controle hebben over voldoende nodes.

Bekijk hier meer cyberbeveiligingsvoorspellingen van Trend Micro voor 2024.

Axians BW 27-05-2024 tm 10-06-2024 Vertiv BW 27-05-2024 tm 10-06-2024
V2 | Axians BN 27-05-2024 tm 10-06-2024

Wil jij dagelijkse updates?

Schrijf je dan in voor onze nieuwsbrief!