CoreWeave en Cognition: NVIDIA Vera Rubin NVL72 in productie genomen
AI-cloudprovider CoreWeave heeft de beschikbaarheid aangekondigd van het NVIDIA Vera Rubin NVL72-systeem op zijn cloudplatform. Het toegepaste AI-lab Cognition is de eerste klant die live productie-workloads draait op de nieuwe architectuur. Het nieuws werd bekendgemaakt tijdens Fully Connected, de jaarlijkse AI-cloudconferentie van CoreWeave.
Cognition gebruikt het systeem voor de training en inference van zijn AI-software-engineer Devin. In begin september zette Cognition een Vera Rubin NVL72-cluster op via CoreWeave.
Uit interne prestatietests van het bedrijf bleek een toename van 4,8 keer de totale token-doorvoer voor SWE-2-inference-workloads in vergelijking met een baseline op een NVIDIA GB200 NVL72-cluster. Voor workloads rond reinforcement learning werd een prestatieverbetering van 3,8 keer gemeten.
Het NVIDIA Vera Rubin NVL72-systeem is de nieuwste generatie AI-hardware binnen het aanbod van CoreWeave. Klanten beheren de nieuwe architectuur via hetzelfde softwareplatform en dezelfde tooling die al worden gebruikt voor bestaande NVIDIA GB200- en GB300-systemen. Met de inzet van het platform wil CoreWeave de complexiteit van de onderliggende reken- en netwerkinfrastructuur overnemen van ontwikkelaars die grootschalige en complexe AI-modellen bouwen.
Meer over gpu
Over Witold Kepinski
