Article

A Legacy of Innovation: voorop lopen op het gebied van geavanceerde koeling voor AI

Reflecties op 2023 en vooruitkijken naar 2024

Door Chris Sharp, Chief Technology Officer, Digital Realty

Het einde van het jaar is een uitstekend moment om terug te blikken, prestaties en geleerde lessen te overdenken, en te kijken hoe we voortbouwen op het verleden terwijl we plannen voor de toekomst.

Kunstmatige intelligentie (AI) en high-performance computing (HPC) zijn naar voren gekomen als sleutelgebieden voor innovatie en zakelijke transformatie.

De uitdaging voor IT-leiders is om deze high-density workloads te ondersteunen met de juiste IT-infrastructuur. Steeds vaker wordt in de gemeenschap gesproken over geavanceerde koelingstechnologieën zoals vloeistofkoeling.

Hoewel directe vloeistofkoeling (DLC) vandaag de dag meer wordt toegepast in datacenters dan ooit tevoren, zou je verrast zijn te leren dat we deze technologie sinds 2015 in onze datacenterontwerpen bij Digital Realty hebben toegepast. Wist je ook dat vloeistofkoeling niet altijd de juiste keuze is voor elke high-density AI of HPC workload?

In deze post bespreek ik de basisbehoeften aan datacenterkoeling voor high-density workloads zoals AI en HPC, en hoe Digital Realty’s erfenis van innovatie ons heeft voorbereid om de vraag naar geavanceerde koelingstechnieken van alle soorten, inclusief vloeistofkoeling, te ondersteunen.

Ik deel ook casestudy's van onze innovatietournee die aantonen hoe het mogelijk maken van innovatie gaat om de juiste strategie en de juiste partners, in plaats van een one-size-fits-all aanpak.

Koelbehoeften van high-density workloads

De density van een AI- of HPC-implementatie bepaalt de unieke koelbehoeften.

De power density eisen voor AI en HPC kunnen 5-10 keer hoger zijn dan die voor andere datacentergebruiksscenario's. Traditionele workloads bevinden zich doorgaans in het bereik van 5-8 kW per rack.

In 2024 is het waarschijnlijk dat sommige rekentechnologieën power density boven de 100 kW/rack mogelijk maken, en de piek density in het datacenter zou in de komende paar jaar 150 kW/rack kunnen bereiken.

Traditionele workload densities kunnen met luchtkoeling worden gekoeld. In het algemeen vereisen de meeste AI- en HPC-workflows gespecialiseerde koeling, zoals directe vloeistofkoeling (DLC), lucht-assistente vloeistofkoeling (AALC) of een achterdeur-warmtewisselaar.

Niet alle AI- en HPC-workloads vereisen vloeistofkoeling

De eisen voor vloeistofkoeling variëren per hardwareleverancier, de specifieke hardware zelf en het type workload. Vloeistofkoeling is niet geschikt voor alle hardware of elk scenario.

Zelfs in het tijdperk van AI zal niet elk rack 100 kW verbruiken en mogelijk niet eens gespecialiseerde geavanceerde koeling vereisen.

Bijvoorbeeld, inferencing-implementaties zijn doorgaans minder energie-intensief dan training-implementaties en kunnen mogelijk worden gekoeld met traditionele luchtkoelingstechnieken. Machine learning vereist minder middelen, terwijl deep learning en generatieve AI enorme omgevingen vereisen vanwege hun complexiteit.

Het is belangrijk voor IT-leiders om te begrijpen dat verschillende AI- en HPC-workloads verschillende koelbehoeften hebben en dat niet elke datacenterpartner de gespecialiseerde kennis of infrastructuurcapaciteiten zal hebben om de technologie mogelijk te maken.

De eisen voor elke implementatie zullen variëren, dus het is belangrijk om samen te werken met een partner die een op maat gemaakte oplossing zal ontwerpen en niet afhankelijk is van een one-size-fits-all aanpak. Daarom maakt Digital Realty’s legacy van datacenterontwerp expertise met geavanceerde koeling een verschil voor onze klanten.

Strategieën voor innovatie

Het wereldwijde datacenterplatform van Digital Realty, ^{PlatformDIGITAL®}, is gekozen als thuisbasis voor vele baanbrekende AI- en HPC-workloads.

We hebben geleerd dat om innovatie mogelijk te maken, een paar belangrijke strategieën ons helpen niet alleen gelijke tred te houden met technologie, maar een stap voor te blijven.

IT-strategieën om AI- en HPC-workflows te ondersteunen moeten:

Wendbaarheid mogelijk maken
Schaalbaarheid ondersteunen
Duurzame groei bevorderen

Deze casestudy's van onze eigen innovatietournee van het afgelopen decennium benadrukken deze strategieën in de praktijk. Ze tonen ook aan hoe onze expertise en innovatie strategie ons helpt om de juiste oplossing voor de situatie te identificeren in plaats van te vertrouwen op een one-size-fits-all aanpak.

Casestudies over innovatie

Opschalen mogelijk maken: een handelsmotor met hoge capaciteit en vloeistofkoeling

2015 was een transformatief jaar voor ons bij Digital Realty; het was ook mijn eerste jaar bij het bedrijf. We zijn begonnen aan een ambitieus project om de basis te leggen voor een mondiale financiële dienstverlener die gespecialiseerd is in algoritmische hoogfrequente handel.

Een belangrijk onderdeel van deze onderneming was een strategische verschuiving van traditionele luchtkoeling naar geavanceerde vloeistofkoeling tot op chipniveau ter ondersteuning van HPC-clusters. Deze technische prestatie verbeterde niet alleen de efficiëntie van het koelsysteem, maar betekende ook dat we onze technologie konden opschalen om onze klant te blijven ondersteunen terwijl hun implementatie groeide tot bijna 6 MW.

Investeren in de volgende generatie vloeistofkoelingstechnologie was een beslissing waarvan we wisten dat deze onze klant meer mogelijkheden zou bieden dan alleen hun onmiddellijke behoeften en een capaciteit zou creëren met de nadruk op schaalbaarheid en duurzaamheid op de lange termijn.

Maak duurzame groei mogelijk: supercomputing met aanpasbaar ontwerp

Onlangs hebben we samengewerkt met een Europese klant om een geavanceerde supercomputeromgeving te ontwikkelen die tot 70 kW per rack in een gemengde omgeving omvatte. De klant moest snel implementeren en tegelijkertijd voldoen aan nieuwe duurzaamheidsregelgeving.

Wachten op de bouw van een nieuw datacenter gedurende 3-5 jaar was geen optie, daarom zorgt onze mogelijkheid om bestaande faciliteiten om te bouwen ervoor dat klanten sneller operationeel zijn. Door een energiezuinige faciliteit die we in 2013 hebben gebouwd, konden we voldoen aan hun veeleisende eisen voor hoge vermogensdichtheid en connectiviteit met minimale aanpassingen aan onze faciliteit. Dit maakte een 400% snellere implementatie mogelijk.¹

Onze klant verwachtte een verbetering van 30% in energie-efficiëntie door over te schakelen op vloeistofkoeling.¹ Ze profiteerden ook van Digital Realty’s aquifer thermal energy storage (ATES) koelsysteem en volledig hernieuwbare energiebronnen om de CO2-doelstellingen te halen die zijn vastgesteld door lokale duurzaamheidsregelgeving.

Onze mogelijkheid om retrofitontwerpen te ontwikkelen toont onze toewijding aan zowel geavanceerd als flexibel ontwerp dat duurzame en tijdige groei mogelijk maakt. Onze ontwerpeisen zorgen ervoor dat onze infrastructuur niet alleen aan de huidige behoeften voldoet, maar ook aan de eisen van tientallen jaren in de toekomst.

Maak flexibiliteit mogelijk: een flexibele, toekomstbestendige generatieve AI- implementatie

Tegenwoordig spelen we een sleutelrol in de vooruitgang van generatieve AI (GenAI). We werken samen met een klant die meer dan 30.000 van de meest geavanceerde GPU's integreert in één enorm platform.

Om geavanceerde computerprestaties mogelijk te maken, vereist de implementatie dat elke GPU in één computercluster is aangesloten. Ze hadden een datacenter nodig die hen kon helpen snel implementeren om de waarde uit hun GPU-investering te halen, wat zelfs nog uitdagender was gezien hun gespecialiseerde ontwerpvereisten.

Onze investeringsstrategie is gericht op het anticiperen op de toekomstige vraag, waardoor we ze konden matchen met een faciliteit die casco-klaar was en de ontwerpen klaar waren. Onze flexibele, modulaire ontwerpaanpak stelde ons in staat hun complexe ontwerpuitdagingen op te lossen met behoud van 99% van het oorspronkelijke ontwerp, wat betekende dat we sneller konden beginnen met bouwen.

Onze agile aanpak stelt hen in staat om binnen 12 maanden te implementeren in plaats van de 36 maanden die ze nodig zouden hebben bij maatwerk. ¹ De eisen van onze klanten veranderen snel, evenals de technologie en de oplossingen om daaraan te voldoen. Daarom moet wendbaarheid een kernstrategie zijn om innovatie mogelijk te maken.

Hoewel dit de definitie is van een geavanceerde AI-workload, was directe vloeistofkoeling niet de beste keuze voor koeling. Dit is een goed voorbeeld van waarom een one-size-fits-all aanpak voor koeling van workloads met high-density niet werkt.

Beyond infrastructuur: het bevorderen van een cultuur van innovatie

Om deze innovatiestrategieën uit te voeren, is uw team van mensen een ander belangrijk element. Voor alle IT-leiders is het belangrijk om te onthouden dat onze prestaties niet alleen over infrastructuur gaan: ze gaan over de cultuur van innovatie die we hebben gecultiveerd.

Bij Digital Realty brengen onze getalenteerde teams een legacy van innovatie en engineering mee, waarvoor we meerdere prijzen hebben ontvangen als pioniers op het gebied van datacenters.

Onze innovatiecultuur bij Digital Realty maakt afstemming met onze klanten mogelijk, waardoor onze partners er zeker van zijn dat ze tot ver in de toekomst met Digital Realty kunnen groeien.

Een visie voor de toekomst

Mijn rol als Chief Technology Officer bij Digital Realty is om de technologische behoeften van onze klanten te begrijpen en ervoor te zorgen dat Digital Realty deze behoeften kan ondersteunen, niet alleen voor vandaag, maar ook voor morgen.

Als we naar de toekomst kijken, blijven we toegewijd om niet alleen deel te nemen aan het technologische landschap, maar dit ook actief vorm te geven. Onze missie is om de innovatie van onze klanten mogelijk te maken door flexibiliteit, opschalen en duurzame groei mogelijk te maken.

Duurzaamheid is bijzonder belangrijk voor ons. We blijven onze dekking van koolstofvrije en hernieuwbare energiebronnen uitbreiden om te voldoen aan de vraag van klanten — we hebben meer dan 1 gigawatt aan zonne- en windenergie onder contract — en we zijn begonnen met het gebruiken van alternatieve brandstof secundaire energieoplossingen om de levenscyclus-koolstofvoetafdruk van onze datacenters verder te verminderen.

We zullen ons concentreren op het tijdig toepassen van de beste technologie om aan de behoeften van onze klanten te voldoen, in plaats van op grote schaal de status quo in te voeren en de klanten van morgen te dwingen de beperkingen van gisteren te accepteren. Deze aanpak heeft Digital Realty in staat gesteld om de voorbeelden die in dit bericht worden benadrukt te bedienen, evenals allerlei andere klantbehoeften over de hele wereld.

Ons aanpassingsvermogen, onze innovatieve geest en ons rijke erfgoed maken ons tot een uniek en duurzaam bedrijf in de steeds evoluerende wereld van de technologie.

Het opbouwen van een legacy van innovatie gebeurt niet van de ene op de andere dag, maar bij Digital Realty hebben we geleerd dat we altijd in de goede richting gaan als we trouw zijn aan onze waarden en ons richten op de manier waarop we het beste aan de behoeften van onze klanten kunnen voldoen.

Sluit je bij ons aan bij Digital Realty terwijl we de toekomst van technologie blijven definiëren . Blijf innovatief, neem contact met ons op en laten we AI en HPC implementeren op een manier die uw organisatie transformeert.

Meer informatie over AI-ready datacenter :

¹ Geprojecteerde resultaten voor deze klant in vergelijking met hun bestaande infrastructuur voordat deze werd geïmplementeerd en aangesloten op PlatformDIGITAL®, of vergeleken met alternatieve oplossingen die beschikbaar waren op het moment van aankoop.