Datacenters in containers omzeilen vele valkuilen voor de AI-uitbouw

AI-hardwarebouwers pakken rekenkracht steeds nauwer samen. Het gevolg is dat een zeer compacte IT-infrastructuur imposante prestaties kan leveren. HPE en Contour Advanced Systems kiezen voor een hardware-inzet in een vertrouwd formaat: de container. Op bezoek bij de Contour-faciliteit in Varsseveld leren we wat daar de voordelen van zijn.

Software dient tegenwoordig ‘composable’ te zijn. Lees: schaalbaar, flexibel. Hardware, en specifiek de datacenters waarin het gehuisvest wordt, stuit op problemen die een vergelijkbare aanpak vergen. Naast heikele punten als grond- en stroomtekorten levert de gebruikelijke opbouw van een traditioneel datacenter een wachttijd op van circa drFie jaar, soms veel langer. HPE en Contour denken dat ze de uitrol op een locatie via hun modulaire methode drie keer sneller kunnen uitvoeren.

Parallelisering

De gelijkenis tussen de ontwikkeling van software enerzijds en hardware anderzijds gaat verder. De oplossing voor bottlenecks in applicaties en de ontwikkeling van AI is gevonden in parallelisering, ofwel het tegelijk uitvoeren van berekeningen in plaats van sequentieel. HPE en Contour Advanced Systems hebben deze aanpak overgenomen voor hun gezamenlijke oplossing.

De modulaire units, gebouwd door Contour en voorzien van HPE-hardware, ontstaan in parallel. Terwijl de grond wordt voorbereid voor een datacenter, bouwt Contour de containers en integreert het de IT-hardware off-site, zodat ze op de fysieke locatie zo snel mogelijk gebruiksklaar zijn.

Een nieuwe modulaire pod gaat bij Era4, een Brits bedrijf gericht op AI-infrastructuur, binnen enkele maanden live. Naar eigen zeggen was de grond in Sheffield nog modder begin dit jaar, maar zullen klanten medio dit jaar al gebruikmaken van de hardware.

Mod Pods

Voordat we de containers induiken, is het handig om scherp te stellen hoe de filosofie van HPE rondom modulariteit vandaag de dag eruitziet. Met een “LEGO-achtige” architectuur levert HPE modules die los van elkaar te schalen zijn. Niet elk datacenter heeft dezelfde vereisten, met soms direct liquid cooling, maar ook lucht- of hybride koeling en in de meest extreme gevallen 600 kilowatt per rack voor AI-chips. Vooralsnog ondersteunt HPE maximaal 400 kW per rack via hun fanless direct liquid cooled-systemen. De roadmap van Nvidia laat zien dat zelfs een megawatt nodig zal blijken, dus HPE weet waar het naartoe zal moeten groeien met het Mod Pod-concept.

Het voordeel van de keuzevrijheid in datacenter-, koelings- en stroommodules is dat je overprovisioning voorkomt. Voor specifieke use cases zoals een AI-startup die hun GPU’s wil verhuren, zijn de verhoudingen compleet anders dan bedrijven die hun niet al te veeleisende workloads on-prem draaien. Voor eerstgenoemde is de meest geavanceerde koeling en een grote stroomdichtheid nodig, waar HPE op in kan spelen met het Mod Pod-concept. Dat concept is dynamisch op te splitsen of uit te breiden. Zo zien we nog een overeenkomst met het softwaredomein: containers, of clusters van containers, zijn naar wens te deployen en te koppelen.

Containers

Het woord ‘container’ roept mogelijk het beeld op van een verweerde, donkerrode metalen doos met een half afgebladderde verflaag. De systemen bij Contour Advanced Systems zijn afgezien van de gestandaardiseerde verhoudingen ver verwijderd daarvan. De gloednieuw ogende spierwitte exemplaren passen net zo goed achterop een vrachtwagen of op een treinwagon, maar zijn met enig zicht op de binnenkant duidelijk complexe IT-systemen. Alles wat je in een datacenter verwacht, is hier in relatief miniatuur aanwezig: de gekleurde bekabeling in de gebruikelijke goten, vlakke vloeren en zwarte serverracks. Het waterkoelings- en elektriciteitssysteem geldt als hub voor de connecties die zichtbaar naar buiten toe lopen.

Hoewel elke container alle IT-hardware huisvest en oogt als een geïntegreerd geheel, zijn er externe voorzieningen nodig. Elektriciteit en water vloeien de containers in via faciliteiten die de voetafdruk van een werkende installatie groter maakt dan alleen de optelsom van de containers.

Desondanks ontbeert een infrastructuur op basis van deze modulaire datacenters de gebruikelijke ‘grijze doos’ dat het maatschappelijke beeld van een dergelijke locatie typeert. Wie niet al te bekend is met de precieze nutsvoorzieningen, herkent mogelijk niet eens dat een klant van Contour en HPE een gebruiker van geavanceerde IT-hardware is. Immers zijn er enkel containers en de omliggende elektrische voorzieningen zichtbaar.

Conclusie

Modulariteit is niet nieuw, noch is het idee om een container te hergebruiken. Wel is de toepassing met de tijd een stuk relevanter geworden, nu ambitieuze bouwplannen veelal de realiteit niet overleven of jaren aan vertraging oplopen. De gefaseerde, modulaire bouw die Contour laat zien en HPE-hardware inzet, sluit goed aan bij een markt dat bovenal naar deployments snakt die later uitgebreid kunnen worden. We zien genoeg kans voor HPE en Contour om in te gaan spellen op de ontwikkelingen van morgen, met een hoger verbruik en de extra warmte die dat teweegbrengt als voornaamste uitdaging. Voor nu zit de rek in de modulaire racks en constructies door er meer van te deployen op een hoger tempo dan elders mogelijk is.

Lees ook: HPE geeft datacenters nieuwe netwerkbasis met Juniper PTX12000-serie