Jan Heijdra - Cisco: AI en security raken verweven

"Organisaties worstelen met het verkrijgen van inzicht in het AI-gebruik binnen hun eigen muren. Welke AI-tools worden gebruikt door medewerkers? Waar gaat de data naartoe? Ze willen die grip terug," aldus Heijdra.

De huidige uitdagingen doen een beetje denken aan de tijd van Shadow IT, waarin medewerkers buiten het zicht van IT-afdelingen om zelf tools gingen aanschaffen en gebruiken. AI-toepassingen zijn nu net zo wijdverspreid en ongrijpbaar geworden. Veel bedrijven bouwen daarom hun eigen large language models (LLM's) in een gecontroleerde omgeving. Dit voorkomt dat medewerkers gevoelige informatie via publieke modellen delen. De urgentie om AI toe te passen is hoog, stelt Heijdra, maar dat leidt soms tot overhaaste implementaties zonder de juiste beveiliging.

Uit het onderzoek kwam ook naar voren dat 81% van de Nederlandse organisaties niet weet welke AI-requests hun medewerkers doen, en dat slechts 30% gelooft dat hun medewerkers de AI-gerelateerde dreigingen echt begrijpen. "Dat laat zien hoe belangrijk AI-awareness is, net zoals we jaren geleden cybersecurity-awareness hebben opgebouwd," zegt Heijdra. Hij benadrukt dat deze bewustwording niet alleen technisch van aard moet zijn, maar ook op het niveau van gebruikers en bestuurders moet plaatsvinden.

Compacte, taakgerichte AI-modellen

AI-ontwikkeling is inmiddels in een nieuwe fase beland. Naast de grootschalige generatieve modellen ziet Heijdra een opkomst van meer gespecialiseerde, compacte modellen die voor specifieke taken worden ingezet, waaronder security. “Cisco heeft zelf een eigen LLM ontwikkeld, getraind op informatie over kwetsbaarheden en dreigingen, en deze ook open source gedeeld. Heijdra spreekt van een "netwerk van agents" die met elkaar communiceren, informatie uitwisselen en taken uitvoeren, wat een geheel nieuwe benadering van AI betekent.

Daarbij spelen identity en access management een cruciale rol. "AI agents handelen namens gebruikers, met hun toegangsrechten. Dat moet dus goed beheerd worden." Cisco heeft daarom zijn Duo-propositie uitgebreid met identity- en acces management-functionaliteit, juist om die controle mogelijk te maken.

Secure Access en AI Defense

De opkomst van AI-agents betekent dat elke gebruiker in feite een extra digitale medewerker heeft die zelfstandig handelingen uitvoert, wat de complexiteit van beveiliging vergroot. Cisco speelt op deze ontwikkeling onder meer in met twee kernoplossingen: Secure Access en AI Defense.

Met Secure Access kunnen organisaties grip krijgen op AI-gebruik door gebruikers. Het systeem maakt inzichtelijk welke AI-tools worden gebruikt, en stelt IT in staat daar beleid op te maken. Dit gebeurt niet alleen op basis van klassieke data loss prevention (DLP), maar ook met AI-gebaseerde analyse van prompts. "We analyseren wat gebruikers aan AI vragen, om zo te bepalen welke data mogelijk wordt prijsgegeven."

AI Defense richt zich op developers die zelf AI-modellen bouwen of gebruiken. Cisco biedt tools om inzicht te krijgen in welke modellen in gebruik zijn, en voert automatische securityvalidatie uit. "Met een AI model testen we een ander AI model. Zo ontdekken we wanneer een model ongewenste antwoorden gaat geven."

Cisco AI Defense genereert rapporten op basis van deze tests en past vervolgens “guardrails” toe die voorkomen dat modellen buiten hun toegestane grenzen opereren. Ook het valideren van de herkomst van AI-modellen speelt een rol. Cisco scant modellen die op platforms als Hugging Face worden gepubliceerd, maakt hash-bestanden, en gebruikt endpoint security om te controleren of modellen gemanipuleerd zijn.

Datasoevereiniteit

Datasoevereiniteit heeft ook een duidelijke relatie met AI. Heijdra merkt op dat Europese klanten een balans proberen te vinden tussen flexibiliteit en innovatie enerzijds en verbeterde controle over hun digitale infrastructuur anderzijds. "Ze willen oplossingen die ze lokaal kunnen draaien of in hybride vorm." Cisco ondersteunt dit door samenwerking met lokale partijen zoals Mistral (Europese AI-model aanbieder), en via coalities zoals Code Three, gericht op veilige AI. Lokale controle is ook steeds belangrijker geworden. Een voorbeeld hiervan is onze implementatie van soevereine controles voor Webex. In samenwerking met Europese aanbieders kunnen klanten hun eigen encyptiesleutels binnen de EU beheren en hosten, los van Cisco’s wereldwijde infrastructuur.

Samen met partners helpen wij organisaties, waaronder overheden, ondernemingen, telecomaanbieders en hyperscalers, bij het opbouwen, beheren en runnen van hun eigen AI-infrastructuur. Partners spelen een belangrijke rol in de aanpak van Cisco. Zij helpen bij de implementatie van AI-infrastructuren, AI Pods en Secure AI Factories. Ook zijn er partners die zich toeleggen op het ontwikkelen van veilige AI-applicaties, en ecosystemen die Cisco ondersteunen met onder andere governance-oplossingen. Er ontstaan ook nieuwe type partners die zich volledig richten op AI-ontwikkeling en specifiek bij Cisco aankloppen voor AI Defense-oplossingen.

Nederland als proeftuin

Op nationaal niveau ziet Heijdra dat Nederland relatief vooroploopt in AI-adoptie, mede door de aanwezigheid van veel datacenters en een innovatieve markt. Sectoren zoals financiële dienstverlening en customer-facing organisaties zijn voorlopers. De evolutie richting multimodale AI, waarbij naast tekst ook audio en beeld worden gebruikt, is in volle gang. Heijdra ziet dat Nederlandse organisaties steeds sneller nieuwe technologie adopteren.

Tot slot pleit Heijdra voor bredere AI-awareness in de samenleving. "AI is niet alwetend. Het is een algoritme, geen waarheid. Mensen moeten leren hoe ze ermee om moeten gaan, net zoals we dat met cybersecurity hebben gedaan." Hij pleit voor maatschappelijke campagnes die uitleggen wat AI is, wat het kan en waar de risico's liggen. “AI literacy wordt net zo belangrijk als digitale geletterdheid en basiskennis van privacy.”