Dan Schiappa, Arctic Wolf over de kracht van AI-modellen en impact op cybersecurity

Claude Mythos is een krachtig AI-model dat organisaties volgens Schiappa kan helpen, maar tegelijkertijd ook risico’s met zich meebrengt. Het model blijkt namelijk ook goed te zijn in het ontwikkelen van exploits op basis van de gevonden kwetsbaarheden. Bovendien wist Mythos tijdens gecontroleerde sandbox-tests beveiligingsmaatregelen te omzeilen, verstuurde het een ongevraagde e-mail naar een echte ontvanger en voerde het acties uit buiten de vastgestelde parameters. De incidenten tonen aan dat het lastig is om krachtige AI-systemen binnen veilige operationele grenzen te houden. Op het gebied van cybersecurity zijn operationele grenzen echter cruciaal, net zoals het nauwkeurig en met zekerheid vaststellen wat er zich binnen specifieke omgevingen afspeelt, en of dit een reëel risico vormt.

'Cybersecurity is geen theoretisch vraagstuk'

Schiappa: “Wat steeds duidelijker wordt in de markt, is dat de kloof tussen de ruwe mogelijkheden van AI en de daadwerkelijke resultaten zeer groot is. Frontier-modellen ontwikkelen zich snel, maar cybersecurity is geen theoretisch vraagstuk. Het vereist voortdurende context, gestructureerde workflows en het vermogen om in echte omgevingen nauwkeurige beslissingen te nemen."

"De sector richt zich nog steeds grotendeels op wat AI op zichzelf kan doen. Op het gebied van cybersecurity ligt de lat al veel hoger. Wat er werkelijk toe doet zijn nauwkeurigheid, consistentie en context. Niet alleen met betrekking tot de mogelijkheden van het model, maar ook in de manier waarop AI wordt toegepast binnen operationele omgevingen - met de juiste data en menselijk toezicht.”

Lees hier meer over de visie van Schiappa op kracht van AI-modellen en hun impact op cybersecurity.