AMD zet in op datacenters met Helios-rackoplossing

Volgens AMD levert het platform 15% meer piekprestaties in FP4, 50% meer high-bandwidth memory (HBM)-capaciteit en 6% meer HBM-bandbreedte dan concurrerende oplossingen. Daarnaast zou Helios tot 30% meer tokens per dollar bieden.

Open en schaalbare infrastructuur

Het platform is ontworpen om open AI-infrastructuur te ondersteunen via UALink over Ethernet, standaard Ethernet en ingebouwde beveiligingsfuncties op rackschaal. Helios maakt gebruik van open standaarden, waardoor klanten AI-infrastructuur kunnen opbouwen met behulp van open, op standaarden gebaseerde technologieën.

Een enkel rack biedt tot 2,9 exaflops piekprestaties in FP4, 1,4 exaflops in FP8, 31 terabytes aan HBM4-geheugen en 1,7 petabytes per seconde aan geheugenbandbreedte. Het platform schaalt van een enkel rack naar gigawatt-schaal AI-clusters, waarbij elke rack 18 open 4-GPU-computertrays bevat voor in totaal 72 GPU's.

Vamsi Boppana, senior vicepresident AI bij AMD, benadrukt het belang van de nieuwe oplossing: "Frontier AI-infrastructuur evolueert snel, en klanten hebben platforms nodig die uitzonderlijke prestaties kunnen leveren terwijl ze efficiënt opschalen naarmate werkbelastingen groeien. AMD Helios brengt leiderschap in rekenkracht, hoogwaardige netwerktechnologie en open software samen in een geünificeerd platform op rackschaal. Deze technologieën geven klanten de flexibiliteit om grootschalige inferentie, het trainen van frontier-modellen en de volgende generatie AI-infrastructuur te versnellen."