Frontier AI verbrijzelt huidige softwarebeveiliging

Cybersecurity-experts waarschuwen al langer voor de schaduwzijde van kunstmatige intelligentie, maar de bevindingen van Andy Piazza, topman bij Unit 42, schetsen een grimmig beeld. Waar AI voorheen vooral hielp bij het schrijven van code, vertonen de nieuwste modellen nu "autonoom redeneervermogen". Dit betekent dat ze als een volwaardige security researcher kunnen opereren, maar dan met de snelheid van een computer.

De kwetsbaarheid van Open Source

Een van de meest opvallende conclusies uit het onderzoek is het verhoogde risico voor Open Source Software (OSS). Het aloude adagium "met genoeg ogen zijn alle bugs ondiep" wordt door AI pijnlijk onderuitgehaald. Omdat de broncode van OSS publiekelijk toegankelijk is, kunnen Frontier-modellen deze razendsnel scannen op complexe kwetsbaarheden.

Uit tests bleek dat AI-modellen bij broncode extreem effectief zijn in het vinden van 'exploit chains' (een keten van kleine lekken die samen leiden tot een grote inbraak). Bij gecompileerde code (de kant-en-klare software) presteert de AI vooralsnog minder goed, maar aangezien bijna alle commerciële software open-source componenten bevat, is de gehele toeleveringsketen (supply chain) in gevaar.

Van 'N-day' naar 'N-hour'

In de beveiligingswereld wordt gesproken van N-days: dagen waarop een lek al bekend is, maar nog niet overal gepatcht. Frontier AI dreigt dit venster volledig te laten inklappen. Zodra een lek bekend wordt, kan AI binnen minuten een werkende exploit schrijven. "We gaan van N-days naar N-hours," aldus het rapport.

De onderzoekers schetsen een realistisch scenario van een AI-gestuurde aanval:

Reconnaissance: AI verzamelt razendsnel info over doelwitten via LinkedIn en vacatures.

Inbraak: Een AI-agent op een C2-server wacht tot malware binnen is.

Laterale verplaatsing: De AI scant autonoom het interne netwerk, vindt inloggegevens en beweegt zich door de systemen.

Exfiltratie: Gestolen data wordt door een taalmodel (LLM) geanalyseerd om de waarde voor afpersing te bepalen.

Wat nu?

De boodschap voor IT-teams is helder: handmatige monitoring is niet langer voldoende om een AI-tegenstander bij te houden. Unit 42 adviseert een agressieve preventiestrategie:

Ga uit van een inbraak (Assumed Breach): Beveilig elk eindpunt alsof de hacker al binnen is.

SBOM (Software Bill of Materials): Weet exact welke open-source bibliotheken in je software zitten.

Automatiseer de respons: Zet zelf AI in om waarschuwingen te triageren. Tegen een machine kun je alleen winnen met een machine.

Hoewel de dreiging toeneemt, ziet Unit 42 dit als een transitieperiode. Het uiteindelijke doel is een toekomst waarin defensieve AI-modellen gaten sneller dichten dan aanvallers ze kunnen vinden. Tot die tijd moeten organisaties zich voorbereiden op een ongekende schaal en snelheid van cyberaanvallen.