Het Franse Schneider Electric schat dat het stroomverbruik van AI-workloads dit jaar ongeveer 4,3 GW zal bedragen. Dat is omgerekend iets minder dan de totale stroomvraag van een land als Cyprus (4,7 GW) in 2021. Volgens Schneider zal dat stroomverbruik alleen maar toenemen. Het bedrijf verwacht zelfs een samengestelde jaarlijkse groeisnelheid tussen 26 en 36 procent.
Schneider Electric zet in een paper enkele cijfers op een rijtje. Zo zal het totale stroomverbruik in datacenters in 2023 liefst 54 GW bedragen, weet Tom’s Hardware. De workloads van AI-opdrachten nemen 4,3 GW voor hun rekening. Twintig procent van dat stroomverbruik gaat naar het trainen van de AI-modellen. De overige tachtig procent gaat naar inferentietaken zoals opdrachten in ChatGPT of andere modellen. Alle AI-gerelateerde taken zullen dit jaar acht procent uitmaken van het totale stroomverbruik van datacenters.
Toenemende vraag
Volgens Schneider Electric zal die vraag de komende jaren alleen maar stijgen. Het bedrijf voorspelt in het onderzoek dat tegen 2028 het totale stroomverbruik van datacenters ongeveer 90 GW zal bedragen. Daarbij zijn AI-workloads goed voor een verbruik tussen 13,5 en 20 GW. Een kleine omrekening leert dat het aandeel van AI in het verbruik zal groeien tot twintig procent. Dat is dus een aanzienlijke groei waarbij er een kleine verschuiving zal zijn in het AI-gebruik zelf. Schneider verwacht dat tegen 2028 85 procent van de stroomvraag zal inferentietaken.
Die grotere stroomvraag is in grote mate toe te schrijven aan de vooruitgang in AI-GPU’s, AI-processors en toenemende eisen van andere hardware in datacenters. De omvang van AI-clusters, beïnvloedt door de complexiteit en omvang van AI-modellen, is uiteraard ook een belangrijke factor in het stroomverbruik. Grotere modellen vereisen een groter aantal CPU’s. Die clusters en CPU’s draaien vaak bijna continu op volle capaciteit tijdens het trainingsproces. Daardoor is het gemiddelde energieverbruik nagenoeg gelijk aan het piekstroomverbruik. Volgens het document van Schneider speelt ook netwerklatency een rol. Het minder vertraging op het netwerk, hoe meer energieverslindend de infrastructuur zal zijn.
Koeling grote uitdaging
Schneider Electric wijst op de keerzijde van de medaille. Meer vermogen in datacenters vergroot onherroepelijk de noodzaak aan meer koeling. Effectieve koeloplossingen zijn essentieel om de prestaties optimaal te houden en storingen te voorkomen. Tegelijk zijn lucht- en vloeistofkoelsystemen ook ‘duur’ in termen van stroomverbruik, wat de totale energievraag van datacenters de hoogte in jaagt. Net daarom verwacht Schneider niet dat de stroomvraag de komende tijd zal verminderen.
lees ook
AI-bot van Schneider Electric helpt bedrijven bij dataverwerking
Het Franse topbedrijf geeft in het document enkele aanbevelingen. Zo raadt Schneider Electric aan om over te stappen op een 240/415V distributie in plaats van de gebruikelijke 120/208V. Dat moet de hoge vermogensdichtheden van AI-workloads beter opvangen. Wat koeling betreft raadt Schneider aan om over te stappen van luchtkoeling naar vloeistofalternatieven om de betrouwbaarheid van de processor en energie-efficiëntie te verbeteren. Onderdompeling in speciale vloeistoffen levert volgens het bedrijf nog betere resultaten op.
