Broadcom zet in op open Ethernet voor schaalbare AI-infrastructuur

Met meer dan 15.000 bezoekers en een uitverkocht programma stond het evenement in het teken van de transitie naar open netwerkarchitecturen. In zijn keynote stelde Asad Khamisy, Senior Vice President en General Manager van de Core Switching Group bij Broadcom, dat open Ethernet de universele standaard wordt voor zowel scale-up, scale-out als scale-across AI-netwerken. Waar Ethernet voor scale-up twee jaar geleden nog in de kinderschoenen stond, draait de technologie inmiddels in productie bij meer dan vijf hyperscalers.

Uitbreiding van de Ethernet-standaard met SUE-T

Samenwerkingsinitiatieven binnen de OCP, zoals Ethernet for Scale-Up Networking (ESUN) en Scale-Up Ethernet Transport (SUE-T), winnen snel terrein. ESUN telt inmiddels 175 aangesloten leden. SUE-T maakt het mogelijk om scale-up AI-verkeer af te handelen over standaard Ethernet door de instructie-informatie van datapakketten te scheiden van de aflevermechanismen. Hiermee biedt het initiatief XPU-fabrikanten een interoperabel alternatief voor propriëtaire interconnects, wat de basis legt voor hybride netwerken en efficiënte communicatie tussen uiteenlopende versnellers.

Evolutie van optica: van CPO naar Optical Compute Interconnect

Naast de netwerkprotocollen vormde de overgang van traditionele pluggbare transceivers naar Co-Packaged Optics (CPO) en de opkomende Optical Compute Interconnect (OCI) een centraal thema. Broadcom werkt aan OCI-generaties van 200G, 400G en 800G per kanaal, waarbij de latency en het stroomverbruik op het niveau van koperverbindingen liggen, maar met de vereiste dichtheid voor grote AI-clusters. CPO wordt door Broadcom reeds ingezet voor scale-out netwerken om de betrouwbaarheid en linkstabiliteit te waarborgen, aangezien een enkele netwerkfout in een omvangrijk XPU-cluster kan leiden tot het noodgedwongen herstarten van complexe berekeningen.

Herontwerp van AI-clusters door veranderende workloads

Broadcom-engineers wezen tevens op de impact van veranderende AI-workloads op het fysieke ontwerp van datacenters. De transitie van luchtgekoelde servers met 8 tot 10 GPU's naar vloeistofgekoelde kasten met hoge dichtheid (tot 72 GPU's) verandert de netwerkdynamiek. Met name de scheiding van de 'prefill'-fase en de 'decode'-fase bij grote taalmodellen leidt tot gedesaggregeerde inferentie-architecturen, waarbij efficiënt beheer van de sleutel-waarde-cache (KV-cache) leidend is voor de hardware-ontwikkeling.

Tijdens het congres demonstreerden meer dan 15 partnerbedrijven — waaronder Accton/Edgecore, Celestica, Delta Electronics, Micas Networks en Supermicro — toepassingen op basis van Broadcom-chips zoals de Tomahawk 6, Tomahawk Ultra, Jericho 4 en de TH6-Davisson CPO-oplossingen.