Vertiv versnelt met modulaire OneCore-aanpak uitrol van AI factories

Binnen de datacenterbranche zijn gespecialiseerde datacenters voor AI-workloads, ook wel ‘AI factories’ in opkomst. Deze specialistische datacenters richten zich specifiek op het op grote schaal verwerken van AI-workloads, het uitvoeren van inference-handelingen, het trainen van AI-modellen en de uitrol van AI-diensten en -toepassingen.

Stroomvoorziening is uitdaging

Deze grote datacenteromgevingen hebben enorme rekenkracht nodig die traditionele datacenters misschien niet kunnen leveren. Hiervoor ontbreken naast effectief beschikbare fysieke ruimte, ook de benodigde stroomvoorzienings- en koelingsinfrastructuur.

“Twee jaar geleden was de (maximale) energieconsumptie van datacenters 70 kilowatt”, zei de uitgaande president van Vertiv EMEA Karsten Winther tijdens een recent evenement met industrie-experts, belangrijke datacenterbelangenbehartigers en topoperators over de toekomst van kritieke digitale infrastructuur en AI factories van de datacenterinfrastructuurspecialist in Tognana, Italië.

“In de komende 24 maanden verdubbelt deze benodigde stroomcapaciteit (onder andere door de behoefte aan AI-rekencapaciteit) zich. Bij specialistische AI-datacenters neemt de vraag naar stroom nog meer toe. Dit gaat dan om tientallen megawatts of zelfs gigawatts”.

De Europese datacenterbranche ziet de enorme behoefte aan stroomvoorziening dan ook als één van de belangrijkste uitdagingen. De energievraag van datacenters in onze regio groeit tussen 2023 en 2030 jaarlijks met 15 procent, zo blijkt uit recent onderzoek van de brancheorganisatie European DataCenter Association.

Koeling is andere bottle neck

Naast de enorme behoefte aan voldoende stroom, is ook koeling een belangrijke uitdaging wanneer er over AI factories wordt gesproken. Huidige datacenters gebruiken grotendeels nog air cooling voor 10 tot 15 kilowatt per rack aan apparatuur. Met de komst van AI stijgt de benodigde koelingscapaciteit naar tussen de 30 à 60 kilowatt per rack. Hiervoor is vloeistofkoeling nodig, bijvoorbeeld direct op de processors of GPU’s. Ook hiervoor moet dan de datacenterinfrastructuur grondig worden aangepast.

Verder betekent de sterk groeiende vraag naar AI-workloads dat de specialistische AI-datacenters sneller moeten worden gebouwd. “Normaal duurt het ongeveer twee jaar dat een datacenter compleet van de grond is opgebouwd. AI factories moeten sneller beschikbaar komen om aan de groeiende vraag te voldoen. Het liefst na zes maanden”, zegt Karsten Winther. Bovendien moet de infrastructuur flexibel zijn om op te schalen. Dit met het oog op een grotere beschikbare dichtheid voor apparatuur en de toekomstige ontwikkelingen.”

Vertiv OneCore

Om aan deze uitdagingen voor de datacenterbranche het hoofd te bieden, ontwikkelde Vertiv een modulaire infrastructuurstrategie. Vertiv™ OneCore richt zich op een geprefabriceerd ontwerp, vereenvoudigt transport en installatie en vermindert het werk op locaties en de bijbehorende risico’s. De nadruk ligt daarbij op het leveren van een efficiënte stroomvoorziening, stroombeheersoplossingen, geavanceerde air en liquid cooling, de benodigde beheersoftware en complete blauwdrukken voor het snel opzetten van dit soort datacenters.

De belangrijkste eigenschap van deze datacenterarchitectuur is dat deze is gebaseerd op voorgebouwde en vooral met referentiearchitecturen en digitale twin- en simulatieomgevingen geteste elementen. Denk hierbij aan externe modules, inclusief de benodigde pijpen, voor het distribueren van stroom naar de interne datacenterkamers en rijen, zogenoemde ‘skids’, de noodzakelijke pompen om liquid cooling naar de datacenterkamers te brengen, de service modules voor de verbindingen tussen de verschillende rijen van serverracks en de hitte-afvoer die op het dak wordt geplaatst.

De datacenterinfrastructuurspecialist levert binnen het OneCore-concept, indien nodig of gewenst, ook de complete hal of behuizing waarin het (AI)datacenter wordt ondergebracht.

Complete infrastructuurmodules

Wanneer de basiscomponenten zijn geplaatst, worden vervolgens complete modules met stroomvoorzienings-, koelings- en netwerkinfrastructuur en de benodigde serverracks naar binnen geschoven. “We noemen deze geprefabriceerde en vaak op maat gemaakte modules Vertiv™ SmartRun”, aldus Winther.

“Deze componenten hebben ieder vier rack shelves aan de zijkant en een bovenliggende structuur waar alle stroom-, koelings- en bekabelingselementen -inclusief belangrijke sensors- zich bevinden. Wanneer we zes van dit soort elementen aan elkaar rijgen, dan leveren en datacentergang met in totaal 48 kant- en klare rack shelves. Waar we vroeger meerdere weken deden over het installeren van alle rack shelves en de benodigde apparatuur, doen we dit voor deze 48 rijen in met een stopwatch geteste twee dagen.”

Een opvallend element van de Vertiv SmartRun-technologie is dat alle stroom-, koelings- en bekabelingselementen, inclusief belangrijke sensoren, samen boven het gangpad in een datacenter worden aangebracht. Vroeger waren delen van de datacenterinfrastructuur gescheiden boven en onder de racks geplaatst. De koeling en de stroomvoorziening bevonden zich onder de gangpaden en de netwerkverbindingen en de verwarming en hitte-afvoer erboven. De Vertiv-oplossing zorgt er juist voor dat alles direct toegankelijk is, wat veel beheertijd scheelt.

Daarnaast helpt deze oplossing de zwaarte van racks te verminderen. Zo zorgt bijvoorbeeld de voor AI workloads benodigde vloeibare koeling ervoor dat racks tegenwoordig steeds zwaarder worden. Dit gewicht wordt nu door Vertiv SmartRun naar de overhangende infrastructuur verplaatst.

Na het installeren van deze oplossingen kunnen dan de uiteindelijke server- en storagetoepassingen worden geplaatst. Vanzelfsprekend wordt ook een compleet intelligent softwaresysteem, Vertiv Unify, meegeleverd om alles te beheren.

Flexibiliteit en toekomstige ontwikkelingen

De modulaire oplossing Vertiv OneCore maakt het voor datacenteraanbieders, naast het verkorten van de bouwduur van twee jaar naar zes maanden, hun datacenters zo flexibel mogelijk. Bijvoorbeeld wanneer zij willen opschalen naar toekomstige ontwikkelingen, zonder veel te moeten ingrijpen.

Voor de nabije toekomst werkt Vertiv samen met NVIDIA aan specifiek op AI factories gerichte stroomvoorziening die maar liefst 800 Volt aan stroom naar rack shelves moet brengen. Dit om straks NVIDIA server arrays met de laatste generatie GPU-accelerators van juiste energie te voorzien. Vertiv SmartRun is hier al op voorbereid

De technologie maakt het ook mogelijk diverse koelingsopties te installeren wanneer bedrijven nog geen beslissing kunnen maken tussen air- of liquid koeling. Bijvoorbeeld de gecombineerde air- en liquid coolingmodules of ‘LEGO-blokjes’ van Vertiv™ CoolPhase. Deze modulaire units zijn door de service teams van Vertiv binnen vier uur van air cooling naar een volledig liquid coolingsysteem om te bouwen. De liquid coolingtechnologie is standaard ingebouwd. Met meerdere units kan dan makkelijk de juiste verhouding tussen luchtkoeling voor de bestaande racks en liquid cooling AI-racks nauwkeurig worden bepaald.

Kortom, met Vertiv Onecore helpt Vertiv de ontwikkeling van AI factories te versnellen en hun efficiënte ontwerp te ondersteunen.