Dell Generative AI Solutions-portfolio uitgebreid met AMD Instinct Accelerator
Dell en AMD breiden het Dell Generative AI Solutions-portfolio uit met AMD Instinct Accelerators. De partijen willen hiermee geavanceerde workloads versnellen en meer keuze te bieden voor het verwerken van AI- en GenAI-workloads.
Nieuw is onder meer de Dell PowerEdge XE9680, die de aankomende AMD Instinct MI300X accelerator ondersteunt. De PowerEdge XE9680 met AMD Instinct MI300X helpt organisaties met het ontsluiten van hun data met op maat gemaakte grootschalige taalmodellen (large language models, LLM’s). De oplossing omvat acht MI300X GPU’s, 192 GB 5,3 TB/s High Bandwidth Memory (HBM3) per GPU voor een totale coherente HBM3-capaciteit van 1,5 TB per server en meer dan 21 petaflops aan FP16-prestaties.
Dell Open Manage Enterprise-software vereenvoudigt en versnelt de implementatie van GenAI-infrastructuur, terwijl CloudIQ-software intelligente automatisering ondersteunt. De PowerEdge XE9680 wordt ondersteund door geïntegreerd cyberherstel en een brede Zero Trust-aanpak voor betere beveiliging.
De PowerEdge XE9680 maakt gebruik van het AMD Instinct Platform, dat acht AMD Instinct MI300X accelerators omvat. Het platform biedt bijna-lineaire schaalbaarheid en gedistribueerde GenAI-training en inferencing met lage latency met Global Memory Interconnect (xGMI). Dit over een cluster van PowerEdge-servers die MI300X GPU’s met elkaar verbindt via een op Ethernet gebaseerde AI-fabric, met behulp van een door Dell gevalideerde GPU-fabric met Dell PowerSwitch Z9664F-ON.
Dell Validated Design for Generative AI with AMD
Naast de ondersteuning voor de AMD MI300X Instinct Accelerator, kondigen we ook de volgende stap aan van Dell Generative AI Solutions, waardoor organisaties eenvoudiger betrouwbare GenAI kunnen implementeren met de nieuwe Dell Validated Design for Generative AI met AMD.
Deze nieuwe Dell Validated Design for Generative AI met AMD ROCm is mogelijk gemaakt door AI frameworks en vanaf volgend jaar beschikbaar. De oplossing omvat onder meer open-source LLM’s bevatten. AMD ROCm is een open-source stack van drivers, dev toolkits en API’s voor AMD Instinct accelerators. Dankzij Dell Validated Designs for Generative AI kunnen Dell-klanten GenAI-platforms bouwen op basis van hun behoeften en giswerk wegnemen bij overwegingen rondom integratie, prestaties en formaat.
Beschikbaarheid
De Dell PowerEdge XE9680 met AMD Instinct MI300X accelerators en Dell Validated Design for Generative AI met AMD zijn in de eerste helft van 2024 beschikbaar.
