Nieuwe tools AWS maken AI-agents slimmer en veiliger

Met de nieuwe tools wil AWS het vertrouwen vergroten dat nodig is om AI-agents vanuit een experimentele fase naar daadwerkelijke productieomgevingen te brengen. De focus ligt hierbij op drie pijlers: geheugen, kwaliteitscontrole en beveiliging.

Geheugen en controle

Een van de opvallendste toevoegingen is AgentCore Memory. Hiermee krijgen AI-agents een 'episodisch geheugen', wat betekent dat ze kunnen leren van eerdere ervaringen en interacties. In plaats van elke sessie blanco te beginnen, kan de agent context uit het verleden gebruiken om betere beslissingen te nemen.

Daarnaast introduceert AWS AgentCore Evaluations. Deze tool stelt ontwikkelaars in staat om de kwaliteit en het gedrag van een agent continu te inspecteren. Dit is cruciaal om te voorkomen dat autonome systemen ontsporen of ongewenst gedrag vertonen.

Harde veiligheidsgaranties

Voor bedrijven die worstelen met de veiligheidsrisico's van autonome software, lanceert AWS de Policy-functie. Hiermee kunnen organisaties ongeautoriseerde acties van een agent in real-time blokkeren via deterministische controles.

Het unieke aan deze aanpak is dat deze controles buiten de code van de agent zelf opereren. Dit fungeert als een externe 'noodrem' of beveiligingslaag die garandeert dat de AI binnen de vastgestelde lijntjes kleurt, ongeacht wat het taalmodel zelf bedenkt.

Grote spelers aan boord

De technologie wordt inmiddels gebruikt door een breed scala aan organisaties met strenge eisen, waaronder S&P Global Market Intelligence, Workday, Thomson Reuters en Swisscom. Volgens AWS bewijst dit dat AgentCore voldoet aan de compliance-eisen van grote ondernemingen.