Palo Alto Networks luidt noodklok over AI-aanvallen op cloudomgevingen

Hiervoor waarschuwt Unit 42, de onderzoekstak van Palo Alto Networks. Eerder onderzoek van Unit 42 wees al uit dat AI een rol kan spelen als ‘operator’ binnen cyberoperaties. In het nieuwste onderzoek stelt Unit 42 de vraag centraal of AI-agents volledig autonoom, van begin tot eind, aanvallen kunnen uitvoeren of dat menselijke sturing nog steeds noodzakelijk is. Voor dit onderzoek ontwikkelde Unit 42 ‘Zealot’, een proof-of-concept waarbij meerdere AI-agents samenwerken in een aanvalsscenario.

Nieuw niveau

Uit het onderzoek blijkt dat het systeem in een gecontroleerde testomgeving zelfstandig een volledige aanval kon uitvoeren. Hierbij werden kwetsbaarheden misbruikt, toegangsgegevens verkregen, beheerrechten overgenomen en data buitgemaakt. AI-gedreven aanvallen bereiken hiermee een nieuw niveau, waarbij huidige modellen aanvalsstappen zelfstandig aan elkaar kunnen koppelen met minimale menselijke begeleiding. Dit verkort de tijd tussen de eerste toegang en het verlies van data aanzienlijk.

Volledig autonome aanvallen bleken echter nog niet mogelijk zonder enige vorm van menselijke tussenkomst. Tijdens de tests was handmatige controle nodig om te voorkomen dat de AI-agents vastliepen in irrelevante zijpaden. Daarnaast zullen bestaande detectiesystemen, die zijn afgestemd op menselijk gedrag, moeite hebben om dit soort AI-gedreven aanvallen te herkennen. Deze aanvallen combineren razendsnel meerdere acties, wat ze lastiger maakt om op te sporen.

De bevindingen benadrukken dat organisaties hun beveiligingsstrategieën moeten heroverwegen in een tijdperk waarin AI niet alleen wordt ingezet voor verdediging, maar ook steeds vaker door aanvallers wordt gebruikt. Het onderzoek van Unit 42 laat zien dat de ontwikkeling van AI-gedreven dreigingen snel verloopt en dat traditionele detectiemechanismen mogelijk niet langer afdoende zijn.

Meer informatie is hier beschikbaar.