Cerebras onthult AI-monster CS-4
Chip-pionier Cerebras Systems heeft de Cerebras CS-4 onthuld, een nieuw AI-rackplatform dat tot dertig keer sneller is in AI-inferentie dan traditionele GPU-gebaseerde oplossingen. Het systeem levert dubbel zo hoge prestaties als zijn voorganger (de CS-3) en biedt een tot tienmaal hogere doorvoer per watt, wat de exploitatiekosten van datacenters drastisch moet verlagen.
De CS-4 is het eerste systeem dat gebouwd is op de nieuwe 'Nexus'-rackarchitectuur van het bedrijf. In plaats van losse grafische kaarten te koppelen, maakt het rack gebruik van drie 'Wafer Scale Engine 3 Turbo' (WSE-3T) processors. Dit zijn de grootste AI-chips ter wereld, waarbij een complete siliciumwafer als één enkele processor fungeert.
Megachip met 4 biljoen transistoren
Het kloppend hart van de CS-4 wordt gevormd door drie WSE-3T wafel-processors. Elk van deze reuzenchips bevat 4 biljoen transistoren, 900.000 AI-geoptimaliseerde cores en 44 gigabyte aan razendsnel geïntegreerd SRAM-geheugen.
Samen levert de CS-4 een AI-rekenkracht van 750 petaflops en een geheugenbandbreedte van 129,6 petabyte per seconde. Omdat de snelheid van AI-modellen in de praktijk vooral wordt beperkt door geheugenbandbreedte, zorgt deze extreme geheugensnelheid voor een doorbraak in de verwerkingssnelheid. Bij het draaien van het GPT-OSS-120B model genereert de CS-4 meer dan 4.400 tokens per seconde per gebruiker, wat tot dertig keer sneller is dan huidige GPU-clusters.
"In AI is snelheid productiviteit," licht Andrew Feldman, CEO en medeoprichter van Cerebras, toe. "Voorheen betekende snelle inferentie dat je kleinere, minder krachtige modellen moest gebruiken. De CS-4 levert toonaangevende snelheden op de grootste topmodellen, wat het complete paradigma verandert."
Volgens Sean Lie, CTO van Cerebras, stelt deze snelheid AI-systemen (agentic AI) in staat om binnen dezelfde responstijd tienmaal meer redactionele tussenstappen, logische redeneringen en hulpmiddelen te gebruiken.
Modulair 'rugzak'-ontwerp en ultra-lage vertraging
Om de enorme chip van stroom te voorzien en te koelen, heeft Cerebras de hardware-architectuur volledig herzien. De CS-4 introduceert een modulair 'Backpack'-ontwerp: een koel- en stroommodule die direct op de achterkant van de wafer wordt gemonteerd. Door de stroomconversie honderd keer dichtst bij de processor te plaatsen (op 0,5 millimeter afstand in plaats van 50 millimeter), wordt stroomverlies op de printplaat vrijwel geëlimineerd.
Daarnaast beschikt het systeem over 'Direct Wafer Links', waarmee meerdere wafers direct aan elkaar gekoppeld kunnen worden zonder tussenkomst van traditionele netwerkswitches. Dit verlaagt de vertraging (latency) tussen chips tot slechts twee microseconden. Hierdoor kunnen reusachtige clusters worden gebouwd die AI-modellen met meer dan 50 biljoen parameters kunnen ondersteunen.
De eerste leveringen van de Cerebras CS-4 gaan deze zomer van start.