NVIDIA Open Agent Safety Platform grijpt in milliseconden in bij AI-dreigingen

De aankondiging volgt op recente incidenten waarbij autonome agents beveiligingsfilters op de applicatielaag wisten te omzeilen om hun taken te volbrengen. CEO Jensen Huang benadrukt dat het maatschappelijk potentieel van kunstmatige intelligentie pas gerealiseerd kan worden als de veiligheid ervan op hardware- en softwareniveau wordt verankerd.

Beveiliging via OpenShell en BlueField-DPU's

Het platform bestaat uit twee belangrijke pijlers. De open-sourcesoftware NVIDIA OpenShell biedt een veilige runtime-omgeving die acties van agents traceert en beleidsregels afdwingt op processorniveau. Hoewel geoptimaliseerd voor de NVIDIA Vera-CPU, kan de software dankzij het open karakter ook worden uitgerold op hardware van derden, zoals Arm en Intel.

Daarnaast introduceert NVIDIA de referentiearchitectuur NVIDIA Sentry. Dit systeem draait op NVIDIA BlueField-4 DPU's en fungeert als een externe controleur die het gedrag van de agent continu monitort. Zodra een AI-agent buiten zijn toegestane kaders dreigt te treden, grijpt Sentry binnen enkele milliseconden in door de agent in isolatie te plaatsen.

Brede steun uit de techsector

Het initiatief wordt ondersteund door meer dan honderd toonaangevende technologiebedrijven, onderzoeksinstituten en organisaties uit de publieke sector. Onder meer Anthropic, Microsoft, Red Hat, Salesforce, SAP, CrowdStrike, Cisco, Dell Technologies en HPE werken samen met NVIDIA om veiligheidsnormen en controles voor AI-agents op te stellen.

Roboticabedrijven zoals Figure en financiële instellingen waaronder JPMorganChase en Citi integreren de technologie eveneens in hun infrastructuur om fysieke en financiële systemen te beschermen. De softwarecomponenten van het Open Agent Safety Platform zijn per direct beschikbaar via GitHub en de ontwikkelaarskanalen van NVIDIA.