Palo Alto Networks: veel AI-investeringen mislukken door gebrek cybersecurity

"Het probleem is fundamenteel een vertrouwensprobleem," legt Pasha tijdens de recent gehouden Gartner Security & Risk Management Summit in Londen uit in een gesprek met Dutch IT Channel. "Organisaties besteden miljarden aan de motoren – de LLM's – maar vergeten vaak de rails te beveiligen. Zolang de data die de AI voedt niet betrouwbaar is, zullen organisaties de kritieke, hoogwaardige beslissingen die ROI genereren niet aan de AI overlaten."

Volgens Pasha is de onbeveiligde data-toeleveringsketen de grootste cyberbeveiligingshindernis die de winst uit AI dwarsboomt. Dit omvat een gebrek aan duidelijke AI-governance, het falen om de Gegevensherkomst (Data Provenance) te garanderen, en het risico van Data Poisoning of doelbewuste manipulatie van trainingsgegevens.

Agentische AI: van passief naar autonoom

De recente verschuiving van passieve AI (die alleen tekst of code genereert) naar Agentische AI (autonome agents die zelfstandig acties ondernemen) creëert een geheel nieuw beveiligingslandschap. Deze agents voeren taken uit door API's van andere systemen aan te roepen—financiële systemen, HR-portalen, of infrastructuurbeheer.

"Het traditionele beveiligingsmodel, gebaseerd op perimeterverdediging, is irrelevant in het tijdperk van de autonome agent," waarschuwt Pasha. "De agent wordt een actor binnen de organisatie, die met dezelfde bevoegdheden en API-toegang handelt als een werknemer, maar dan 24/7."

De nieuwe kwetsbaarheid is niet langer een simpele prompt-injectie, maar wat Pasha AI Werkstroommanipulatie (AI Chaining Attacks) noemt. Een niet-voor de hand liggend voorbeeld:

"Een aanvaller hoeft niet de AI zelf te kraken. Ze kunnen een kwaadaardige input leveren aan een onafhankelijke tool of een configuratiebestand dat een ‘Financiële Agent’ moet lezen. De agent volgt perfect zijn instructies, maar op basis van de gemanipuleerde input autoriseert deze een abnormaal grote, frauduleuze overboeking of inkooporder. Dit is een logische fout, geen softwarefout, en wordt gemist door traditionele endpoint- en netwerkbeveiliging."

De enkele kritieke actie voor de CISO

De urgentie vereist een onmiddellijke koerswijziging voor Chief Information Security Officers (CISO's). Als Pasha zijn advies moest terugbrengen tot slechts één kritieke, onmiddellijke actie, zou dit een fundamentele verschuiving in de mindset zijn.

"De CISO moet de sprong maken van Defensie naar Validatie," stelt hij. "De kritieke actie is de onmiddellijke implementatie van een robuust Input/Output Validatie (I/O Validatie)-framework voor elke AI-component."

Dit betekent dat elke output van een AI, vooral die output die leidt tot een externe actie, als potentieel toxisch moet worden beschouwd totdat het door een apart mechanisme is geverifieerd. Dit mechanisme moet controleren of de actie logisch, ethisch en in overeenstemming met het beleid is, voordat de uitvoerende API wordt aangeroepen.

De realiteit van schaal en bestuur

Pasha's visie wordt gedeeld door praktijkmensen. De presentatie van de CSO van Palo Alto Networks werd tijdens het Gartner Security & Risk Management Summit in Londen samengevoegd met de ervaringen van Benoit Herment, Group CISO bij Vinci, een complex en grootschalig conglomeraat in infrastructuur en bouw.

De meest cruciale inzichten die een CISO als Herment aan zijn peers kan bieden, liggen in de praktijk van zichtbaarheid en standaardisatie op schaal.

"In een grote, gedecentraliseerde organisatie ontstaat 'Shadow AI' overal. Teams gebruiken AI-tools die ze zelf hebben gekozen," legt Pasha uit. "Het advies is om niet de innovatie te stoppen, maar om een gecentraliseerde AI-beveiligingsblauwdruk op te stellen. Dit garandeert dat elke afzonderlijke AI-implementatie, ongeacht de afdeling, voldoet aan minimale, verplichte veiligheidsmaatregelen, zoals logboekregistratie, bewaking van bevoegdheden en de verplichte toepassing van I/O Validatie-mechanismen."

De evolutie van de CISO: De hoeder van intentie

Vooruitkijkend is de rol van de CISO onherkenbaar aan het veranderen. De focus verschuift radicaal van het louter beschermen van statische en bewegende gegevens naar het Besturen van de Acties en Intenties van autonome systemen.

"De CISO was voorheen de 'behoeder van data'," concludeert Pasha. "Nu wordt de CISO de rentmeester van intentie en actie."

Dit vereist nieuwe disciplines, zoals AI Risicomodellering en de ontwikkeling van 'safety brakes' – harde, niet-onderhandelbare grenzen in de code die voorkomen dat agents ethische, wettelijke of financiële drempels overschrijden. De CISO wordt de ultieme veiligheidsofficier, niet alleen verantwoordelijk voor het netwerk, maar voor de logica en de impact van de geautomatiseerde besluitvorming van de organisatie in de reële wereld.

De volgende generatie cybersecurity draait niet om het afweren van malware, maar om het temmen van de autonome, besluitvormende machine, aldus Pasha.

Door: Witold Kepinski