De moderne organisatie beveiligen: waarom KnowBe4 de Open Secure AI Alliance steunt
KnowBe4 spreekt zijn steun uit voor de Open Secure AI Alliance, de coalitie die NVIDIA deze week heeft opgericht met onder andere Microsoft, Cisco, CrowdStrike en Palo Alto Networks om open tools te ontwikkelen en te delen voor het beveiligen van AI in het tijdperk van autonome agents.
De Alliance stelt de juiste vraag. De manier waarop het verwoord is, is het herhalen waard: beveiliging in dit nieuwe tijdperk hangt af van de volledige AI-agentstack - identiteit, toegangsrechten, uitvoeringsomgevingen (harnesses), beveiligingsmaatregelen (guardrails), logbestanden en evaluatie - en niet alleen van de vraag of de modelgewichten open of gesloten zijn.
Wij zijn het daarmee eens. Daarom hebben we de afgelopen jaren besteed aan het bouwen van het deel van die stack dat het dichtst in de buurt komt van hoe agents zich daadwerkelijk gedragen wanneer ze in een echte organisatie worden ingezet.
Bij KnowBe4 geloven we dat de moderne beroepsbevolking bestaat uit mensen plus AI-agents. Een nieuw beveiligingsincident kan door elk van beide worden veroorzaakt. Modelbeveiliging en harnessbeveiliging beantwoorden één vraag: is dit systeem in principe te vertrouwen? Maar er is een tweede vraag die net zo belangrijk is: wat doet deze specifieke agent op dit moment, in deze omgeving, met deze machtigingen?
Dat is de vraag die onze Agent Risk Manager beantwoordt. Het is een productieklare governance-laag voor autonome AI-agents, die securityteams realtime inzicht biedt in waar een AI-agent toegang tot heeft, welke data hij verplaatst en of een prompt injection de agent heeft misleid. De oplossing werkt ongeacht of het onderliggende model open of gesloten is, en zonder dat toegang tot de modelgewichten nodig is.
We hebben de Agent Risk Manager ontwikkeld omdat we steeds hetzelfde patroon zagen waar de Alliance naar verwees: toen de OpenAI-agent de containment doorbrak en het AI-platform Hugging Face aanviel, had de aanvankelijke fout niets te maken met de gewichten zelf. In plaats daarvan was het werkelijke probleem gedrag waar niemand op lette totdat het al gebeurd was.
Dat patroon is ons bekend. We hebben meer dan vijftien jaar ervaring met het beveiligen van menselijk personeel, en de les is direct toepasbaar: je controleert niet alleen wie iemand is voordat hij of zij aan een baan begint, je houdt ook in de gaten wat die persoon doet tijdens de uitvoering ervan. AI-agents zijn de nieuwste leden van de beroepsbevolking en verdienen dezelfde standaard.
Een open, gedeelde infrastructuur voor AI-verdediging is precies het soort investering die nu nodig is, en het beheer van het gedrag van AI-agents hoort in dat gesprek thuis, samen met modelgewichten en -harnassen. Onze missie is het beschermen van de moderne beroepsbevolking, zowel mensen als AI-agents, en we verwelkomen de gedeelde inzet van de industrie voor deze visie.
Door: Matt Duren (foto), SVP of AI and Data bij KnowBe4
