Datacenterontwerp in het tijdperk van AI: AI integreren met een oudere infrastructuur

Chris Sharp, Chief Technology Officer, Digital Realty

Dit is deel 3 van onze driedelige blogserie over kunstmatige intelligentie (AI) en AI-ready datacenterinfrastructuur.

• Lees deel 1: Benut het potentieel van AI en ga om met disruptie met Digital Realty
• Lees deel 2: Zijn datacenters verouderd in het tijdperk van AI? Niet op onze hoede
• Blijf lezen voor deel 3

Hoe kunnen bedrijven in het tijdperk van kunstmatige intelligentie (AI) beoordelen of hun bestaande datacenterontwerp volledig kan voldoen aan de moderne vereisten die nodig zijn om AI te laten draaien? Er zijn belangrijke overwegingen als IT-leiders hun AI-strategieën ontwikkelen en het landschap van hun infrastructuur evalueren.

Deze blog onderzoekt:

• Wat wordt beschouwd als een verouderde IT-infrastructuur?
• Hoe nieuwe AI-apparatuur kan integreren met bestaande infrastructuur.
• Evaluatie van het ontwerp van het datacenter en de bestaande infrastructuur.
• De kunst van het moderniseren van datacenters.

Hoewel AI-workflows nieuwe uitdagingen en vragen oproepen rond unieke stroom- en koelingsbehoeften, moeten IT-leiders de staat van hun datacenterontwerp evalueren om te voldoen aan de behoeften van opkomende en evoluerende moderne behoeften.

Wat is een verouderde IT-infrastructuur?

Het identificeren van bestaande infrastructuur is deels intuïtie en deels ervaring. Vanuit het perspectief van IT-apparatuur kunnen we ervan uitgaan dat alles wat niet op het scherpst van de snede staat, erfenis is. Dit is echter vaak niet waar.

Veel van de IT-systemen ter wereld draaien niet op de nieuwste en beste hardware. Dit zal doorgaan vanwege de typische budget-, uitgaven- en apparatuurupdatecycli van iedereen, van de grootschalige cloud tot kleine ondernemingen.

Zelfs in het AI-tijdperk zal niet elk rack 100 kW verbruiken of vloeistofkoeling nodig hebben. Rekken vol netwerk-, geheugenaggregatie- of opslagapparaten kunnen elk nog steeds minder dan 15 kW hebben en afhankelijk zijn van luchtkoeling.

Het wordt een uitdaging om de IT-infrastructuur al dan niet als verouderd te classificeren, alleen op basis van het stroomverbruik. Uit verschillende branchebenchmarks blijkt dat nieuwe generaties central processing units (CPU's), graphics processing units (GPU's), netwerkapparatuur en andere IT-infrastructuurmiddelen aanzienlijk sneller zijn dan hun voorgangers, maar dit alleen is vaak niet voldoende om bestaande apparatuur als verouderd aan te merken infrastructuur.

De beste test is om te beslissen of de huidige infrastructuur de ontwikkelings- en operationele activiteiten van de organisatie tegenhoudt op manieren die nieuwe generaties apparatuur niet zouden doen.

Als dit het geval is, moet het worden geclassificeerd als verouderde infrastructuur.

Integratie van AI met bestaande IT-infrastructuur

In het geval van IT-apparatuur kunnen we denken aan het integreren van AI door gebruik te maken van bestaande servers en hun ondersteunende apparatuur om nieuwe AI-functies uit te voeren, of door de geïmplementeerde hardware uit te breiden met nieuwe AI-specifieke apparatuur om nieuwe AI-functies uit te voeren.

Een voorbeeld van dit laatste is het nemen van een bestaand rack met CPU-gebaseerde servers en het toevoegen van twee nieuwe GPU-gebaseerde servers om meer parallelle rekenkracht te bieden om een chatbot te lanceren voor de interne gebruikers van een bedrijf.

Dit lijkt misschien eenvoudiger dan het accommoderen van een nieuwe AI-implementatie met high density, maar het brengt drie reeksen uitdagingen met zich mee:

• Door GPU-gebaseerde servers toe te voegen aan een gangpad met een verder lage rackdichtheid kunnen er hotspots ontstaan waarvoor het koelsysteem van het gebouw oorspronkelijk niet was ontworpen.
• Dit kan leiden tot een ongelijkmatige stroombelasting in de hele faciliteit en tot de noodzaak om reservestroombronnen opnieuw toe te wijzen.
• Dit kan leiden tot netwerkcongestie omdat de nieuwe apparatuur de hoeveelheid data die per rack wordt overgedragen, vermenigvuldigt.

Deze factoren kunnen leiden tot nieuwe druk op het datacenter, wat u moet beschouwen als onderdeel van uw IT-stack zelf.

Evaluatie van het ontwerp van het datacenter en de bestaande infrastructuur

Het datacenter is net zo goed een onderdeel van uw IT-infrastructuur als de servers die u erin implementeert, en daarom moeten we overwegen hoe dit concept van verouderde infrastructuur ook van toepassing is op de datacenterfaciliteit.

In technologische termen is de datacenterindustrie geen springkip. Digital Realty alleen al ondersteunt wereldwijd ongeveer 2,4 gigawatt aan IT-apparatuur van klanten, en dit gebeurde niet van de ene op de andere dag.

Sinds onze oprichting in 2004 hebben we de capaciteit van onze wereldwijde datacenters elk jaar stapsgewijs vergroot, en alle klantapparatuur in deze faciliteiten gaat niet verloren. Veel organisaties vervangen al hun servers elke drie tot vijf jaar, maar sommige servers kunnen wel acht jaar worden ingezet. Wanneer apparatuur wordt vervangen, gebeurt dit gefaseerd, zodat de applicaties van de organisatie zonder echte downtime blijven functioneren.

Dit betekent dat het datacenter altijd aan staat. Een exploitant van een datacenter kan niet zomaar alle IT-apparatuur van zijn klanten eruit halen, een grootschalige upgrade van de faciliteit uitvoeren en deze vervolgens allemaal weer terugplaatsen. Naarmate de tijd verstrijkt, zal de mix van klantapparatuur in het datacenter doorgaans enkele oude en sommige niet-verouderde apparatuur.

Naarmate het datacenter zelf ouder wordt, zijn sommige van de eigen kenmerken, zoals het luchtstroomontwerp, de vloerconstructie en de ondersteuning voor vloeistofkoeling, mogelijk niet ideaal meer geschikt voor alle apparatuur die klanten willen inzetten.

Veel datacenterfaciliteiten maken bijvoorbeeld gebruik van een ontwerp met een verhoogde vloer: AI-apparatuur zorgt voor hogere rackdichtheden, niet alleen in termen van stroomverbruik, maar ook vanwege hun gewicht. In sommige gevallen kunnen deze stellingen een massieve betonplaatvloer nodig hebben.

Dit betekent dat sommige datacenters voor bepaalde gebruiksscenario's kunnen voldoen aan onze definitie van legacy-infrastructuur.

Een goed ontworpen datacenter is echter veel flexibeler als het gaat om upgrades in de loop van de tijd dan een server of een set IT-apparatuur verspreid over meerdere racks. Een datacenter kan vijftien tot twintig jaar meegaan, afhankelijk van hoe goed de exploitant het in de loop van de tijd ontwerpt, aanpast en modulariseert.

AI heeft geleid tot een enorme verandering in de rackdichtheid en andere vereisten die van invloed zijn op het datacenter. Vaak kan de exploitant van het datacenter delen van de faciliteit upgraden om aan deze nieuwe behoeften te voldoen.

De kunst van het retrofitten van datacenterontwerp

Dit proces staat bekend als retrofit, en de kunst van het retrofitten is een belangrijk onderdeel van hoe effectief de datacenteroperator datacenters kan ontwerpen voor huidige en toekomstige generaties servers en andere IT-infrastructuur. Stel je een oudere datacenterfaciliteit voor, oorspronkelijk ontworpen voor gemiddeld 10 kW per rack. Met de opkomst van AI kan worden verwacht dat diezelfde faciliteit 100 kW per rack zal ondersteunen zonder de luxe van een totale stillegging en een geheel nieuw ontwerp.

De flexibiliteit om dit soort veranderingen aan het datacenter in de loop van de tijd te ondersteunen, is een belangrijk onderdeel van de manier waarop we onze datacenters ontwerpen en exploiteren. Bijvoorbeeld:

• Waar een verhoogde vloer niet meer nodig is, kan deze worden opgevuld.
• Waar vloeistofkoeling nodig is, kunnen we leidingen van een nieuwe koelunit en reservoir naar het rek laten lopen.
• Waar nieuwe netwerkmogelijkheden nodig zijn, kunnen we extra connectiviteit toevoegen en alle netwerkmiddelen in de faciliteit zelf optimaliseren.

Tegenwoordig is het datacenter net zo flexibel, modulair en in hoge mate afgestemd om mee te evolueren met de behoeften van zijn klanten als elk ander onderdeel van uw IT-stack. De vereisten om AI in het datacenter te ondersteunen zijn zeker een uitdaging, en we analyseren al onze datacenters wereldwijd om op de hoogte te blijven van hoe we ons ontwerp en onze activiteiten kunnen ontwikkelen om tegemoet te komen aan de zich ontwikkelende AI-vereisten.

Praat met ons deskundige team voor meer informatie over Digital Realty en onze AI-ready datacenters terwijl u uw AI-strategieën evalueert.

Dit is deel 3 van onze driedelige blogserie over kunstmatige intelligentie (AI) en AI-ready datacenterinfrastructuur.

• Deel 1: Benut het potentieel van AI en ga om met disruptie met Digital Realty
• Deel 2: Zijn datacenters verouderd in het tijdperk van AI? Niet op onze hoede
• Deel 3: Datacenterontwerp in het tijdperk van AI: AI integreren met oudere infrastructuur