Oracle onthult met OCI Zettascale10: AI supercomputer met NVIDIA GPU's

De OCI Zettascale10 is de technologische ruggengraat van het vlaggenschip supercluster dat in samenwerking met OpenAI wordt gebouwd in Abilene, Texas, als onderdeel van het zogenaamde Stargate-project. Het belooft extreem lage GPU-naar-GPU latentie en de betrouwbaarheid die cruciaal is voor de grootste AI-trainingstaken.

"Met OCI Zettascale10 versmelten we de baanbrekende Oracle Acceleron RoCE netwerkarchitectuur van OCI met de volgende generatie NVIDIA AI-infrastructuur om multi-gigawatt AI-capaciteit op ongeëvenaarde schaal te leveren," aldus Mahesh Thiagarajan, executive vice president van Oracle Cloud Infrastructure. "Klanten kunnen hun grootste AI-modellen bouwen, trainen en in productie nemen, met minder stroomverbruik per prestatie-eenheid en een hogere betrouwbaarheid."

Schaal en efficiëntie op gigawatt-niveau

De OCI Zettascale10 is een krachtige evolutie van Oracle's eerste Zettascale cloud computing cluster dat in september 2024 werd geïntroduceerd. De clusters worden gehuisvest in enorme gigawatt datacenter-campussen die zijn geoptimaliseerd voor dichtheid binnen een straal van twee kilometer. Dit garandeert de best mogelijke GPU-naar-GPU latentie voor grootschalige AI-training.

De architectuur zal in eerste instantie gericht zijn op implementaties van maximaal 800.000 NVIDIA GPU’s. Deze schaal wordt mogelijk gemaakt door Oracle Acceleron’s ultralage latentie RoCEv2-netwerk, wat zorgt voor voorspelbare prestaties en een sterke kostenefficiëntie.

Peter Hoeschele, vice president Infrastructure and Industrial Compute bij OpenAI, bevestigt de samenwerking: "Het OCI Zettascale10 netwerk en de cluster-fabric werden als eerste ontwikkeld en ingezet op de vlaggenschip Stargate-locatie in Abilene, Texas – ons gezamenlijke supercluster met Oracle. Dit zeer schaalbare RoCE-ontwerp maximaliseert de prestaties van de hele fabric op gigawatt-schaal, terwijl het grootste deel van het vermogen gericht blijft op compute."

Oracle Acceleron RoCE

De Oracle Acceleron RoCE netwerkarchitectuur is een essentiële innovatie die klanten helpt hun kritieke AI-workloads te trainen in de cloud, terwijl ze profiteren van de enorme capaciteit van OCI Zettascale10. De architectuur maakt gebruik van de schakelcapaciteit die is ingebouwd in moderne GPU NIC’s (network interface cards), waardoor deze tegelijkertijd verbinding kunnen maken met meerdere switches op geïsoleerde netwerkvlakken.

Dit ontwerp verhoogt de betrouwbaarheid en schaal aanzienlijk door de mogelijkheid om verkeer naar andere netwerkvlakken te verschuiven wanneer er een probleem optreedt.

De belangrijkste kenmerken van het Acceleron RoCE-netwerk zijn:

• Brede, ondiepe, veerkrachtige fabric: Verhoogt de schaal en betrouwbaarheid door de GPU NIC als een mini-switch te gebruiken en verbinding te maken met meerdere, logisch geïsoleerde vlakken. Dit vermindert netwerktiers, kosten en stroomverbruik.
• Hogere betrouwbaarheid: Elimineert gegevensdeling tussen vlakken, waardoor verschuiving van verkeer weg van onstabiele vlakken mogelijk is. Dit voorkomt kostbare onderbrekingen en herstarts van trainingstaken.
• Consistente prestaties: Biedt een meer uniforme GPU-naar-GPU latentie door een tier te verwijderen ten opzichte van traditionele drielaagse ontwerpen.
• Energie-efficiënte optica: Gebruik van Linear Pluggable Optics (LPO) en Linear Receiver Optics (LRO) vermindert de netwerk- en koelkosten, waardoor een groter deel van het vermogensbudget aan compute kan worden besteed.

Oracle neemt nu bestellingen op voor de OCI Zettascale10. De service zal beschikbaar zijn in de tweede helft van volgend kalenderjaar en kan worden uitgerold met maximaal 800.000 NVIDIA AI-infrastructuur GPU-platforms.