Cynnydd Atebion Oeri Hylif mewn Gweinyddwyr AI: Dadansoddiad TrendForce

Oct 03, 2024

Gadewch neges

 

Ⅰ Cyflwyniad

 

Yn ôl yr arolwg diweddaraf gan TrendForce, disgwylir i gyfradd dreiddiad atebion oeri hylif ymchwydd, wedi'i yrru gan y llongau a ragwelir ar gyfer platfform NVIDIA Blackwell ym mhedwerydd chwarter 2024. Rhagwelir y bydd y gyfradd hon yn cynyddu o tua 10% yn 2024 i dros 20% yn 2025. Mae'r ymwybyddiaeth fyd-eang gynyddol o ffactorau Amgylcheddol, Cymdeithasol a Llywodraethu (ESG), ynghyd ag adeiladu gweinyddwyr AI yn gyflym gan Ddarparwyr Gwasanaeth Cwmwl (CSPs), yn paratoi'r ffordd ar gyfer newid sylweddol o oeri aer traddodiadol i atebion oeri hylif uwch.

 

Mae oeri hylif yn cynnig nifer o fanteision dros oeri aer, gan gynnwys gwell rheolaeth thermol, lefelau sŵn is, a mwy o effeithlonrwydd ynni. Wrth i'r galw am alluoedd AI gynyddu, yn enwedig mewn cymwysiadau data-ddwys, mae'r newid i systemau oeri hylif yn dod yn fwyfwy hanfodol ar gyfer cynnal y perfformiad gweinydd gorau posibl.

 

A liquid cooling system installed in an AI server environment, showcasing the advanced cooling technology

▲ System oeri hylif a ddefnyddir mewn amgylcheddau gweinydd AI

 

 

Ⅱ Goruchafiaeth NVIDIA yn y Farchnad Gweinyddwr AI

 

Yn y farchnad gweinyddwyr AI byd-eang, mae NVIDIA yn parhau i deyrnasu'n oruchaf, gan ddal cyfran o'r farchnad yn agos at 90% yn segment gweinydd GPU AI o 2024. Mae AMD yn llwybrau'n sylweddol gyda thua 8% o gyfran y farchnad. Mae'r goruchafiaeth hon yn bennaf oherwydd technoleg flaengar NVIDIA a'i hecosystem gadarn, sy'n cefnogi ystod eang o gymwysiadau mewn AI, dysgu peiriannau, a dadansoddi data.

 

Mae TrendForce yn nodi bod graddfa cludo NVIDIA Blackwell eleni yn gymharol fach. Mae hyn yn bennaf oherwydd bod y platfform yn mynd trwy brosesau profi a dilysu terfynol o fewn y gadwyn gyflenwi, sy'n gofyn am optimeiddio parhaus mewn meysydd fel trosglwyddo data cyflym a dylunio oeri. Mae defnydd cynyddol o ynni platfform Blackwell, yn enwedig yn yr ateb rac GB200, yn golygu bod angen effeithlonrwydd oeri uwch, gan gyflymu'r broses o fabwysiadu datrysiadau oeri hylif ymhellach.

 

NVIDIA Blackwell platform designed for high-performance AI server applications

▲ Llwyfan NVIDIA Blackwell ar gyfer gweinyddwyr AI

 

Er gwaethaf manteision oeri hylif, mae'r ecosystem gweinydd presennol yn dal i ddangos cyfradd mabwysiadu isel o'r dechnoleg hon. Rhaid i Wneuthurwyr Dylunio Gwreiddiol (ODMs) lywio cromlin ddysgu i fynd i'r afael â heriau sy'n ymwneud ag effeithlonrwydd gollyngiadau ac oeri. Gan fod disgwyl i gyfran y GPUs pen uchel ar blatfform Blackwell fod yn fwy na 80% erbyn 2025, bydd hyn yn tanio cystadleuaeth ymhlith gweithgynhyrchwyr cyflenwad pŵer a'r diwydiant oeri yn y farchnad oeri hylif AI sy'n dod i'r amlwg, gan arwain at dirwedd gystadleuol newydd.

 

 

 

Ⅲ Defnydd Cyflym gan Bartneriaethau Diogelwch Cymunedol Mawr

 

Mae darparwyr gwasanaeth cwmwl mawr, gan gynnwys Google, AWS, a Microsoft, wedi cyflymu eu defnydd o weinyddwyr AI yn gyflym yn ystod y blynyddoedd diwethaf, gan ddefnyddio GPUs NVIDIA ac ASICs hunanddatblygedig yn bennaf. Mae pŵer dylunio thermol (TDP) cabinet GB200 NVL72 NVIDIA tua 140 kW, gan danlinellu'r angen brys am atebion oeri hylif i reoli afradu gwres yn effeithiol. Rhagwelir mai dulliau oeri Hylif-i-Aer (L2A) fydd y dull prif ffrwd yn y cyd-destun hwn.

 

AI server deployment in modern data centers, highlighting the use of advanced cooling solutions

▲ Defnyddio gweinydd AI mewn canolfannau data

 

Er bod GPUs NVIDIA yn dominyddu, mae Google hefyd wedi bod yn rhagweithiol wrth archwilio datrysiadau oeri hylif ar gyfer ei Unedau Prosesu Tensor (TPUs). Mae ymrwymiad Google i'r dechnoleg hon yn ei osod fel y cwmni mwyaf blaengar yn yr Unol Daleithiau ym maes mabwysiadu oeri hylif. BOYD a Cooler Master yw'r prif gyflenwyr ar gyfer platiau oer Google, sy'n hanfodol ar gyfer cynnal y tymereddau gorau posibl mewn amgylcheddau cyfrifiadura perfformiad uchel.

 

Ar dir mawr Tsieina, mae Alibaba yn ehangu ei ganolfannau data oeri hylif yn ymosodol, gan bwysleisio ymhellach y newid byd-eang tuag at y dechnoleg oeri uwch hon. Mae darparwyr gwasanaethau cwmwl eraill yn bennaf yn parhau i ddibynnu ar atebion oeri aer ar gyfer eu ASICs AI hunanddatblygedig, a allai rwystro perfformiad o'i gymharu â systemau oeri hylif.

 

 

Ⅳ Cyflenwyr Allweddol a Dynodi Cydran

 

Wrth i'r newid i oeri hylifol ennill momentwm, mae darparwyr gwasanaeth cwmwl yn dynodi cyflenwyr cydrannau allweddol ar gyfer datrysiadau oeri hylif cabinet GB200. Ar hyn o bryd, mae Qihong a Cooler Master yn gyflenwyr blaenllaw ar gyfer platiau oer, tra bod cydrannau manifold yn dod o Cooler Master a Shuanghong. Darperir unedau dosbarthu oeryddion (CDUs) gan arweinwyr diwydiant fel Vertiv a Delta.

 

Ar gyfer cydrannau atal gollyngiadau hanfodol fel datgysylltu cyflym (QDs), mae gweithgynhyrchwyr fel CPC, Parker Hannifin, Danfoss, a Staubli yn ymwneud yn helaeth â chaffael. Wrth i gyflenwyr ychwanegol fel Jiazhe a Fushida ddod i mewn i'r cam dilysu, bydd ganddynt gyfleoedd i gyflenwi cydrannau datgysylltu cyflym yn hanner cyntaf 2025, gan helpu i liniaru'r anghydbwysedd cyflenwad-galw presennol.

 

Various suppliers involved in the liquid cooling component supply chain for AI servers.

▲ Cyflenwyr allweddol ar gyfer cydrannau oeri hylif

 

 

Ⅴ Manteision Oeri Hylif

 

Effeithlonrwydd Oeri Gwell

Mae systemau oeri hylif wedi'u cynllunio i gael gwared ar wres yn fwy effeithlon na systemau oeri aer. Mae hyn yn arbennig o bwysig mewn cymwysiadau AI lle gall proseswyr gynhyrchu gwres sylweddol oherwydd gofynion cyfrifiannol uchel. Trwy ddefnyddio hylif i amsugno a throsglwyddo gwres i ffwrdd o gydrannau, gall gweinyddwyr weithredu ar dymheredd is, gan leihau'r risg o sbardun thermol a gwella perfformiad.

 

Optimeiddio Gofod

Mae systemau oeri hylif yn aml yn meddiannu llai o le nag atebion oeri aer traddodiadol, gan ganiatáu ar gyfer dyluniad canolfan ddata mwy effeithlon. Mae'r nodwedd arbed gofod hon yn arbennig o fuddiol i sefydliadau sydd am wneud y mwyaf o gapasiti eu gweinydd heb ehangu eu hôl troed corfforol.

 

Effeithlonrwydd Ynni

Gyda ffocws cynyddol ar gynaliadwyedd ac effeithlonrwydd ynni, gall atebion oeri hylif helpu i leihau'r defnydd o ynni cyffredinol mewn canolfannau data. Trwy leihau'r ddibyniaeth ar gefnogwyr ac unedau aerdymheru, gall oeri hylif leihau costau ynni ac olion traed carbon, gan alinio â nodau ESG y mae llawer o gwmnïau'n ymdrechu i'w cyflawni.

 

Lleihau Sŵn

Mae systemau oeri hylif yn gweithredu'n dawelach na systemau oeri aer traddodiadol, gan arwain at amgylchedd gwaith mwy dymunol mewn canolfannau data. Mae'r gostyngiad hwn mewn sŵn yn ystyriaeth bwysig ar gyfer cyfleusterau sydd wedi'u lleoli ger ardaloedd poblog neu o fewn adeiladau swyddfa.

 

 

Ⅵ Mynd i'r afael â Heriau Cyffredin

 

Er gwaethaf y manteision, mae'r newid i oeri hylif yn dod â heriau. Mae’r rhain yn cynnwys:

 

Costau Cychwynnol

Gall y buddsoddiad ymlaen llaw ar gyfer systemau oeri hylif fod yn uwch na datrysiadau oeri aer traddodiadol. Rhaid i sefydliadau bwyso a mesur y costau hyn yn erbyn y manteision a'r arbedion hirdymor o ran effeithlonrwydd ynni a chynnal a chadw.

 

Pryderon Gollyngiadau

Un o'r heriau mwyaf arwyddocaol sy'n gysylltiedig ag oeri hylif yw'r risg o ollyngiadau. Mae dylunio priodol, dewis deunyddiau, a phrotocolau cynnal a chadw yn hanfodol i liniaru'r risg hon a sicrhau dibynadwyedd system.

 

Cymhlethdod Cynnal a Chadw

Mae angen cynnal a chadw mwy cymhleth ar systemau oeri hylif o gymharu â systemau oeri aer. Rhaid i sefydliadau hyfforddi eu staff neu ymgysylltu â darparwyr gwasanaethau arbenigol i sicrhau bod atebion oeri hylif yn parhau i fod yn effeithiol ac yn rhydd o broblemau.

 

 

Ⅶ Tueddiadau'r Dyfodol mewn Oeri Hylif

 

Wrth i'r galw am gyfrifiadura AI barhau i gynyddu, disgwylir i nifer o dueddiadau yn y dyfodol lunio'r dirwedd oeri hylif:

 

Mabwysiadu Atebion Hybrid

Mae systemau oeri hybrid sy'n cyfuno technolegau oeri aer a hylif yn debygol o ennill tyniant. Gall y systemau hyn ddarparu hyblygrwydd ac effeithlonrwydd, gan addasu i wahanol lwythi gwaith ac anghenion gweithredol.

 

Deunyddiau Uwch

Gall datblygu deunyddiau uwch ar gyfer cydrannau oeri hylif wella perfformiad a dibynadwyedd. Gall arloesi mewn gwyddor deunyddiau arwain at atebion oeri ysgafnach, mwy gwydn a mwy effeithiol.

 

Integreiddio ag AI ac IoT

Gall integreiddio technolegau AI ac IoT i systemau oeri optimeiddio perfformiad trwy alluogi monitro amser real ac addasiadau awtomataidd yn seiliedig ar amodau amgylcheddol a llwythi gwaith gweinyddwyr.

 

Ffocws ar Gynaliadwyedd

Wrth i gwmnïau flaenoriaethu cynaliadwyedd yn gynyddol, bydd datrysiadau oeri hylif gan ddefnyddio oeryddion a deunyddiau ecogyfeillgar yn dod yn fwy cyffredin. Efallai y bydd y diwydiant yn gweld symudiad tuag at systemau dolen gaeedig i leihau gwastraff ac effaith amgylcheddol.

 

 Future trends in liquid cooling technology

▲ Tueddiadau'r dyfodol mewn technoleg oeri hylif

 

 

 

Ⅷ Casgliad

 

Mae'r newid o atebion oeri aer i hylif mewn gweinyddwyr AI yn cynrychioli esblygiad sylweddol yn y diwydiant, wedi'i ysgogi gan ddatblygiadau mewn technoleg a'r galw cynyddol am reolaeth thermol effeithlon. Gyda NVIDIA yn arwain y tâl yn y farchnad gweinyddwyr AI a darparwyr gwasanaeth cwmwl mawr fel Google yn archwilio opsiynau oeri hylif yn weithredol, mae'r dirwedd yn newid yn gyflym.

 

Trwy ddeall manteision a heriau oeri hylif, yn ogystal â'r chwaraewyr allweddol sy'n ymwneud â'i weithrediad, gall sefydliadau osod eu hunain yn well i drosoli'r dechnoleg hon ar gyfer gwell perfformiad, cynaliadwyedd a chystadleurwydd yn y dirwedd AI. Wrth i'r diwydiant symud ymlaen, bydd atebion oeri hylif yn chwarae rhan hanfodol wrth lunio dyfodol canolfannau data, gan sicrhau y gallant fodloni gofynion cymwysiadau AI cenhedlaeth nesaf.

 

 

 

 

Anfon ymchwiliad