Thales en Google Cloud beveiligen autonome AI-agents

Met de verschuiving van eenvoudige AI-assistenten naar zelfstandige AI-agents die beslissingen nemen, acties uitvoeren en communiceren met kritieke bedrijfssystemen, volstaan traditionele beveiligingsmodellen niet langer. Waar conventionele software werkt binnen vooraf vastgelegde paden, kunnen AI-agents dynamisch redeneren, plannen en onderling samenwerken. Dit creëert nieuwe aanvalsvlakken en risico's op het gebied van naleving en gegevensbeheer.

De gezamenlijke oplossing richt zich op het afdekken van risico's gedurende de gehele levenscyclus van autonome AI. Denk hierbij aan prompt injection, het lekken van gevoelige bedrijfsdata, onveilige uitvoer, onbevoegde acties en complexe interacties tussen agents onderling. Wanneer een AI-agent bijvoorbeeld is aangesteld om verzekeringsclaims af te handelen, ziet de beveiligingslaag van Thales er in realtime op toe dat de agent binnen zijn bevoegdheden blijft, geen externe persoonlijke data gebruikt en geen ongeautoriseerde uitbetalingen doet.

Volgens Thales en Google Cloud vormt ingebouwde beveiliging en governance het noodzakelijke fundament om het vertrouwen in de volgende generatie enterprise-AI te borgen. De centrale beheeromgeving stelt beveiligings- en IT-leiders in staat om risico's in kaart te brengen, gevoelige informatie te beschermen en te waarborgen dat AI-activiteiten altijd in lijn blijven met het bedrijfsbeleid en de intentie van de gebruiker.