Kyvvu haalt 1 miljoen euro op voor beveiliging van AI-agents

Waar kunstmatige intelligentie in organisaties tot voor kort vooral werd gebruikt voor het doen van suggesties, voeren zogeheten AI-agents nu steeds vaker zelfstandig handelingen uit. Het gaat om processen zoals het bijwerken van klantgegevens, het verwerken van terugbetalingen en het uitvoeren van complete backofficeprocessen. Die autonome handelingen brengen echter grote beveiligingsrisico's met zich mee.

Het pad als veiligheidsrisico

Volgens Kyvvu zit het grootste gevaar niet in wat een AI-agent per afzonderlijke stap mag doen, maar in de specifieke volgorde van handelingen. Bestaande beveiligingssoftware beoordeelt acties doorgaans geïsoleerd. Wanneer een agent echter een goedgekeurd klantdossier leest en vervolgens een goedgekeurde e-mail naar een externe ontvanger stuurt, ontstaat er gecombineerd een datalek. Omdat een agent tijdens de uitvoering zelfstandig zijn route bepaalt, valt een schadelijke combinatie vooraf niet te voorspellen.

Om dit probleem op te lossen ontwikkelde de startup de Agent Security Kernel (ASK). Deze beveiligingslaag draait binnen de agent zelf en toetst elke voorgenomen actie — zoals het lezen van data of het aanroepen van een tool — aan het gehele traject dat de agent binnen een taak al heeft afgelegd.

"Met AI-agents staan we op hetzelfde punt als het internet decennia geleden," zegt Jeroen Ghijsen, medeoprichter en CEO van Kyvvu. "Ze krijgen pas werk toevertrouwd dat er écht toe doet als er binnen de agent zelf iets meekijkt dat elke actie controleert vóórdat die wordt uitgevoerd."

Lokale controle en AI Act-compliance

De controle vindt plaats in minder dan een milliseconden op basis van vaste, versiebeheerde regels. De software draait volledig binnen de eigen IT-infrastructuur van de klant, waardoor gevoelige gegevens de organisatie niet verlaten.

Doordat de kernel elke handeling realtime beoordeelt en vastlegt, levert het systeem tevens een audittrail op. Deze verslaglegging helpt organisaties in de financiële sector, gezondheidszorg en bij de overheid te voldoen aan de strenge eisen rond registratie en menselijk toezicht uit de EU AI Act en de AVG.

De technologie achter Kyvvu is gebaseerd op wetenschappelijk onderzoek naar Runtime Governance uitgevoerd aan JADS. Het product wordt inmiddels via integratiepartners ingezet bij Nederlandse organisaties in de zorg, verzekeringsbranche en financiële dienstverlening. Met het nieuwe kapitaal wil Kyvvu de uitrol in Europa en daarbuiten verder versnellen.