Google Cloud en Cohere omarmen Nvidia Confidential Bare Metal
Nvidia heeft een uitbreiding aangekondigd van zijn NVIDIA Confidential Computing-platform om de bescherming van AI-modellen en gevoelige bedrijfsdata te versterken. Met de introductie van Confidential Bare Metal kunnen ontwikkelaars van geavanceerde AI-modellen (frontier models) hun meest gevoelige AI-workloads nu draaien op dedicated, niet-gevirtualiseerde hardware bij externe cloudproviders, neoclouds en enterprise-datacenters, met behoud van de volledige controle over hun intellectueel eigendom en gegevens.
De uitbreiding vormt een cruciale infrastructuurlaag onder de bredere beveiligingsstrategie van Nvidia, zoals de recent aangekondigde NVIDIA OpenShell Reference Architecture voor het veilig inzetten van autonome AI-agents. Door geavanceerde hardwarematige isolatie, platformintegriteitsmetingen en versleuteling van data in rust, tijdens transport en gedurende de verwerking (data-in-use) op de GPU, voorkomt de technologie dat derden of cloudbeheerders toegang krijgen tot de verwerkte data of de modelcode.
Drie beveiligingsmodellen en brede platformondersteuning
Met de toevoeging van bare-metal ondersteuning biedt NVIDIA Confidential Computing nu een geconvergeerde beveiligingsarchitectuur met drie flexibele uitrolopties:
- Confidential Bare Metal: Voor toegewijde, niet-gevirtualiseerde bare-metal infrastructuur waar ontwikkelaars hun eigen custom softwarestack beheren.
- Confidential Containers: Voor gecontaineriseerde omgevingen op basis van Kubernetes.
- Confidential Virtual Machines: Voor traditionele gevirtualiseerde cloudomgevingen.
Daarnaast breidt Nvidia de vertrouwde hardwarematige beveiliging uit naar de nieuwste systeemgeneraties. De technologie wordt ondersteund op Nvidia Grace Blackwell NVL72 rack-scale systemen, evenals op de x86-gebaseerde Nvidia HGX Rubin NVL8 en DGX Rubin NVL8 systemen. Bovendien wordt Confidential Computing geïntegreerd in NVIDIA DSX OS, wat cloudproviders een referentie-architectuur biedt voor het bouwen van beveiligde 'AI-fabrieken'.
Wereldwijde adoptie door AI-pioniers en cloudgiganten
Verschillende vooraanstaande AI-bedrijven en cloudproviders omarmen de nieuwe bare-metal beveiliging al. AI-ontwikkelaar Cohere integreert Confidential Bare Metal in de Cohere Model Vault om klantedagtekst en modelgewichten rechtstreeks op de GPU en over de interne netwerkverbindingen te beschermen tijdens de verwerking.
Google Cloud introduceert op zijn beurt Confidential Bare Metal op de nieuwe A4X Max-instances, die worden aangedreven door Nvidia GB300 NVL72-systemen. Hiermee kunnen AI-labs en ondernemingen hoogwaardige AI-modellen trainen en serveren binnen een hardwarematig geïsoleerde omgeving.
Naast Google Cloud wordt NVIDIA Confidential Computing ondersteund door een breed ecosysteem van cloud- en infrastructurele partners, waaronder CoreWeave, Firmus, GMI Cloud, IREN, Lambda, Microsoft Azure, Nebius, Nscale en Vultr. Globale systeempartners zoals Cisco, Dell Technologies, HPE, Lenovo, Supermicro en Bull brengen op hun beurt 'NVIDIA-Certified Systems' op de markt die deze confidential computing-functionaliteiten ondersteunen.
Meer over bare metal
Over Witold Kepinski
