KnowBe4 maakt AI-agents veiliger met Agent Risk Manager

Met de verschuiving van AI-ondersteunde workflows naar workflows die door AI-agents worden aangestuurd, is er een nieuw beveiligingsgat ontstaan. Waar andere oplossingen zich richten op statische code-analyse of basale API-beveiliging, richt Agent Risk Manager zich op de risico’s die voortkomen uit het gedrag van deze agents. Het systeem voorkomt ongeautoriseerde acties, zoals het delen van gevoelige informatie, detecteert indirecte prompt-injecties en houdt een inventaris bij van alle agents.

“De industrie heeft jarenlang gewerkt aan het beveiligen van de menselijke factor, en vandaag de dag zijn AI-agents de nieuwste leden van onze workforce,” aldus Greg Kras, Chief Product Officer bij KnowBe4. “Het beveiligen van prompts is maar de helft van de strijd. Onze Agent Risk Manager richt zich op de output en acties van deze agents en zorgt ervoor dat ze, terwijl ze zich door je netwerk bewegen, niet uitgroeien tot de ultieme shadow IT of een achterdeur voor geavanceerde prompt-injectieaanvallen.”

Operationele laag

Agent Risk Manager voegt een operationele laag toe die in realtime het gedrag van agents analyseert nadat ze zijn geïmplementeerd. Functionaliteiten zijn onder meer:

• Gedragsmatige guardrails: Realtime monitoring van de acties van agents om ongeautoriseerde data-exfiltratie of autonome uitvoering buiten de gestelde kaders te voorkomen.
• Agentic identiteitsgovernance: Een overzicht van de toegangsrechten van agents en de tools waartoe ze toegang hebben.
• Adversarial simulatie voor agents: Het testen van AI-agents onder druk met de nieuwste prompt-injectie- en social engineeringtechnieken die door hackers worden gebruikt.
• Gebruik van historische data: Het systeem maakt gebruik van vijftien jaar aan gedragsdata om afwijkingen van veilige operationele parameters te voorspellen.

“We bewegen van een wereld van human risk naar universal risk,” vervolgt Kras. “Of het nu gaat om een mens die wordt misleid door een deepfake of een AI-agent die wordt gemanipuleerd door een kwaadaardige prompt, KnowBe4 is het enige platform dat beide kan verdedigen.”

De mogelijkheden van Agent Risk Manager omvatten onder andere de detectie van prompt-injecties, het scannen en maskeren van gevoelige informatie zoals persoonsgegevens en inloggegevens, en het signaleren van overmatig resourceverbruik door agents. Daarnaast biedt het systeem een automatische inventarisatie van agents en tools, een gedetailleerde auditlog voor compliance en snelle incidentrespons, en gecentraliseerd integratiebeheer voor meerdere tenants.

'Alert overload verminderen'

KnowBe4 wijst op een review van een KnowBe4-klant op TrustRadius, de AI-mogelijkheden van het bedrijf prijst: “De AI-gedreven personalisatie heeft ons geholpen om rekeninghouders te targeten met specifieke informatie die relevant is voor hun interessegebieden of specialisatie. Dit helpt om alert overload te verminderen doordat we vertrouwen op het AI-systeem.”

Agent Risk Manager is nu wereldwijd beschikbaar.