DDN's Data Intelligence Platform is een spil bij AI

Paul Bloch liet zijn licht schijnen op de huidige economie van AI-infrastructuur. Paul: "NVIDIA doet geweldig werk door in eerste instantie $ 99 uit elke $ 100 aan budget te halen. Maar binnen drie tot zes maanden realiseren de klanten zich dat ze aanzienlijk meer moeten investeren in data-infrastructuur om succes te behalen." Er is dus veel aan de hand.

Wat Paul onderstreept is dat er een bredere marktdynamiek is waarbij organisaties ontdekken dat ruwe rekenkracht alleen geen garantie is voor het succes van AI-projecten. Op basis van een DDN-onderzoek ontdekte men dat dat GPU's zonder een geoptimaliseerde AI geoptimaliseerde data-infrastructuur tot 60% van de tijd inactief kunnen zijn tijdens trainingstaken. Hierdoor wordt het rendement op de investering flink verminderd.

DDN, de grootste leverancier van ondersteunende data-infrastructuur, claimt dat het meer dan 700.000 GPU’s aanstuurt in implementaties bij klanten (ze hebben er 11.000). Tegen de huidige hardware kosten vertegenwoordigen deze investeringen miljarden, waardoor efficiëntiewinsten van cruciaal belang zijn voor de bedrijfsresultaten. Samenvattend: zonder de juiste onderliggende infrastructuur wordt er veel geld verbrand.

De DDN-aanpak

DDN claimt tot 22x betere prestaties van de RAG-pijplijn (Retrieval-Augmented Generation) terwijl de kosten met 60% worden verlaagd. Deze cijfers illustreren hoe optimalisatie van de data-infrastructuur de economie van AI-services fundamenteel kan veranderen.

Voor ondernemingen die AI op grote schaal inzetten, vertalen deze prestatieverbeteringen zich direct in een concurrentievoordeel. Een klant die iets in een chatinterface typt, wil geen 10 seconden wachten op een reactie. Een snelle reactie (korte responsetijd) is cruciaal bij een succesvolle AI-implementatie.

Het DDN Infinia-platform van het bedrijf bereikt toegangstijden van minder dan een milliseconde en is daarmee meer dan 100x sneller dan de traditionele cloudopslag. Door deze performance worden realtime AI-toepassingen mogelijk die voorheen economisch onhaalbaar waren. Dit prestatieverschil kan doorslaggevend zijn voor ondernemingen die concurreren in markten waar AI-responsiviteit een directe impact heeft op de klantervaring, aldus Paul Bloch.

Software-Defined Everything is de motor achter het succes van DDN's software-defined aanpak. Het concept kan op meerdere hardware platforms kan draaien. Dit is belangrijk want het geeft bedrijven meer vrijheid bij de keuze voor hardware zodat ze niet gebonden zijn aan specifieke aanbieders.

Voor ondernemingen die investeringen in AI-infrastructuur evalueren, illustreert het succesverhaal van DDN dat optimalisatie van de data-infrastructuur meetbare bedrijfsresultaten en concurrentievoordelen kan opleveren. Naarmate AI verschuift van experimentele implementaties naar productiesystemen die miljoenen gebruikers bedienen, kunnen de bedrijven die de optimalisatie van de data-infrastructuur beheersen, duurzame concurrentievoordelen krijgen in de AI-gestuurde economie.