Mae Oeri Hylif yn Hybu Perfformiad ac Effeithlonrwydd Platfform Blackwell Nvidia

 

Mae twf cyflym deallusrwydd artiffisial (AI), yn enwedig mewn meysydd fel AI Generative (GenAI) a modelau iaith mawr (LLMs), wedi gyrru galw digynsail am bŵer cyfrifiadurol. Wrth i fodelau AI ddod yn fwy cymhleth ac angen mwy o ddata, mae'r caledwedd sydd ei angen i gefnogi'r datblygiadau hyn yn wynebu heriau sylweddol, yn enwedig gyda gwasgariad gwres. Nid yw dulliau oeri traddodiadol, fel oeri aer, bellach yn ddigonol i reoli'r defnydd o bŵer o galedwedd AI blaengar, a dyma lle mae datrysiadau oeri hylif yn dod i rym.

 

Mae technoleg oeri hylif wedi ennill amlygrwydd fel ffordd hynod effeithlon o reoli allbwn thermol canolfannau data AI. Mae'n arbennig o hanfodol ar gyfer llwyfannau fel pensaernïaeth Blackwell Nvidia, lle mae'r pŵer cyfrifiadol aruthrol yn gofyn am systemau oeri uwch i sicrhau perfformiad a hirhoedledd.

 

Yn yHotchip 2024cynhadledd, cyflwynodd Nvidia ei ateb arloesol, gan integreiddiodŵr cynnes Yn syth i oeri hylif sglodiontechnoleg gyda'i bensaernïaeth Blackwell i fynd i'r afael â'r heriau cynyddol defnyddio pŵer ac oeri. Mae'r datblygiad hwn yn arwydd o gynnydd allweddol mewn dylunio caledwedd AI, gan leihau costau gweithredu a gwella effeithlonrwydd mewn cymwysiadau AI ar raddfa fawr.

 

▲ Tiwtorial Sglodion Poeth: Mae Oeri Hylif yn Hybu Perfformiad ac Effeithlonrwydd

 

Cynnydd Technoleg Oeri Hylif

 

Mae technoleg oeri hylif yn dod i'r amlwg fel elfen hanfodol mewn dylunio canolfan ddata AI oherwydd gofynion pŵer cynyddol sglodion AI. Wrth i gymwysiadau AI dyfu, disgwylir i'r defnydd o bŵer mewn canolfannau data gynyddu'n sylweddol. Llawer o broseswyr AI, gan gynnwys H100 Nvidia a'i newyddpensaernïaeth Blackwell, defnyddio unrhyw le o 700W i 1200W o bŵer. Mae'r tynnu ynni aruthrol hwn yn cael ei gymhlethu pan fydd clystyrau AI, sy'n cynnwys miloedd o GPUs, yn gweithredu'n unsain.

 

Er enghraifft,Clwstwr hyfforddi AI Elon Musk, y mwyaf yn y byd gyda 100,000 H100 GPUs, wedi'i oeri'n gyfan gwbl gan hylif i reoli ei 31-galwad ynni megawat. Mae enghreifftiau o'r fath yn dangos pam mae optimeiddio technoleg oeri yn hollbwysig - nid yn unig i leihau costau gweithredu ond hefyd i wella perfformiad cyffredinol systemau AI. Wrth i'r angen am AI sy'n perfformio'n uwch barhau i dyfu, bydd oeri hylif yn chwarae rhan gynyddol ganolog wrth gynnal systemau cyfrifiadurol perfformiad uchel.

 

 

Manteision Oeri Hylif mewn Canolfannau Data AI

Mae oeri hylif yn sefyll allan oherwydd ei allu i drosglwyddo gwres yn uniongyrchol i ffwrdd o gydrannau hanfodol fel CPUs a GPUs, gan wella afradu gwres o'i gymharu ag oeri aer traddodiadol. YnOeri Hylif Uniongyrchol (DLC), mae oerydd yn dod i gysylltiad uniongyrchol â'r sglodion, gan wella effeithlonrwydd thermol a lleihau'r angen am gefnogwyr swmpus a systemau aerdymheru. Mae hyn yn arwain at ddefnydd ynni is ar gyfer oeri, a thrwy hynny leihau cyfanswm costau gweithredol y ganolfan ddata.

 

Ar ben hynny,Oeri Hylif Trochi, lle mae gweinyddwyr cyfan yn cael eu boddi mewn hylif dielectrig, yn cyflwyno datrysiad oeri hyd yn oed yn fwy effeithiol. Mae'r dull hwn nid yn unig yn sicrhau bod yr holl gydrannau'n aros yn oer ond hefyd yn lleihau traul mecanyddol, sy'n ymestyn oes caledwedd, ac yn lleihau sŵn o offer symud aer yn sylweddol.

 

 

Heriau Defnydd Pŵer mewn Caledwedd AI

 

Wrth i systemau AI raddfa, mae eu defnydd o bŵer yn her gynyddol. caledwedd AI, megis yNvidia H100 GPUa'rpensaernïaeth Blackwell, gwyddys eu bod yn newynog am bŵer, gyda gofynion pŵer yn cyrraedd hyd at 1200W fesul sglodion. Efallai y bydd angen hyd at glwstwr AI nodweddiadol sy'n cynnwys 22,000 H100 GPUs, er enghraifft31 megawat o drydan-cyfwerth â defnydd pŵer dinas fach.

 

Mae'r galw enfawr hwn am bŵer nid yn unig yn cynyddu costau gweithredu canolfannau data ond hefyd yn cyfrannu at effeithiau amgylcheddol sylweddol. Er mwyn mynd i'r afael â'r heriau hyn, rhaid i ganolfannau data ganolbwyntio ar leihau'r defnydd o bŵer a gwella effeithlonrwydd oeri.

 

 

Pensaernïaeth Blackwell Nvidia a Dŵr Cynnes yn Uniongyrchol i Oeri Sglodion

 

Yn yCynhadledd Hotchip 2024, Datgelodd Nvidia ei ateb ar gyfer integreiddio oeri hylif gyda'i bensaernïaeth Blackwell, gan ddefnyddiodŵr cynnes Uniongyrchol i dechnoleg oeri sglodion. Mae'r dull hwn yn defnyddio dŵr cynnes (yn hytrach na dŵr oer) i amsugno a throsglwyddo gwres yn uniongyrchol o'r sglodion. Trwy ddefnyddio oeri dŵr cynnes, gall Nvidia leihau defnydd pŵer oeri canolfannau data hyd at 28%.

 

Mae effeithlonrwydd yr ateb hwn yn ddeublyg: mae nid yn unig yn lleihau'r tyniad pŵer cyffredinol ar gyfer oeri ond hefyd yn galluogi adennill gwres gwastraff, y gellir ei ail-bwrpasu at ddefnyddiau eraill, megis gwresogi adeiladau cyfagos. Yn ogystal, mae oeri dŵr cynnes yn ymestyn oes weithredol gweinyddwyr trwy gadw'r sglodion o fewn yr ystodau tymheredd gorau posibl, gan atal gorboethi, a lleihau traul.

 

▲ Dŵr cynnes yn Uniongyrchol i Ateb Oeri Sglodion

 

Mae'r dechneg oeri hon yn arbennig o bwysig gan fod cymwysiadau AI fel GenAI a LLMs yn parhau i gynyddu'r pŵer cyfrifiannol sydd ei angen mewn canolfannau data. Mae'r gallu i gynnal y tymereddau gorau posibl yn effeithio'n uniongyrchol ar berfformiad a scalability llwythi gwaith AI, gan sicrhau y gall y systemau hyn drin y gofynion dwys a osodir arnynt.

 

 

 

Oeri Hylif Trochi: Cam Ar Draws

 

Yn ogystal ag Oeri Hylif Uniongyrchol,Oeri Hylif Trochihefyd yn ennill tyniant fel ateb lefel nesaf ar gyfer systemau AI ar raddfa fawr. Mae'r dull hwn yn boddi gweinyddwyr cyfan mewn hylif dielectrig nad yw'n ddargludol, sy'n amsugno ac yn gwasgaru gwres o'r holl gydrannau'n llawn. Trwy oeri'r system gyfan yn y modd hwn, mae Oeri Hylif Trochi yn cynnig y manteision canlynol:

 

• Effeithlonrwydd Oeri Gwell: Trwy amgylchynu'r holl gydrannau â hylif oeri, mae'r dull hwn yn darparu tynnu gwres unffurf ac effeithlon.
• Costau Cynnal a Chadw Is: Heb unrhyw rannau symudol fel cefnogwyr, mae llai o wisgo mecanyddol, sy'n lleihau costau cynnal a chadw ac yn ymestyn oes yr offer.
• Gwell Effeithlonrwydd Ynni: Gall oeri trochi leihau'r defnydd o ynni yn ddramatig, gan ei fod yn dileu'r angen am systemau aerdymheru a chydrannau oeri gweithredol eraill.

 

▲ System Oeri Hylif Trochi

 

Ar ben hynny,Oeri Hylif Trochiyn raddadwy iawn, gan ei wneud yn ddelfrydol ar gyfer canolfannau data sy'n trin llwythi gwaith AI sy'n cynhyrchu symiau sylweddol o wres, fel y rhai sy'n cael eu pweru gan bensaernïaeth Blackwell Nvidia. Gyda modelau AI mwy yn dod yn fwy cyffredin, gall oeri trochi ddod yn ateb i ganolfannau data sy'n edrych i raddfa eu gweithrediadau tra'n lleihau costau ynni ac effaith amgylcheddol.

 

 

 

Buddsoddiad Silicon Valley mewn Technolegau Oeri

 

Mae'r galw cynyddol am atebion oeri mwy effeithlon mewn canolfannau data AI wedi dal sylw cwmnïau cyfalaf menter, yn enwedig ynDyffryn Silicon. Mae'r cwmnïau hyn yn buddsoddi'n weithredol mewn busnesau newydd sy'n arbenigo mewnoeri hyliftechnolegau, gan gydnabod bod arloesiadau yn y maes hwn yn hanfodol ar gyfer dyfodol caledwedd AI.

 

Busnesau newydd yn datblyguatebion oeri uwchnid yn unig yn darparu buddion uniongyrchol ar gyfer systemau AI cenhedlaeth gyfredol ond hefyd yn gosod y sylfaen ar gyfer y don nesaf o galedwedd AI, a fydd yn debygol o alw am ddulliau oeri hyd yn oed yn fwy soffistigedig. Mae angen i'r technolegau hyn fynd i'r afael â gofynion pŵer uchel a heriau thermol systemau AI, gan eu gwneud yn fuddsoddiad deniadol i'r rhai sydd am wthio ffiniau'r hyn sy'n bosibl mewn cyfrifiadura perfformiad uchel.

 

▲AI Tueddiadau Buddsoddiad Canolfan Ddata

 

 

Casgliad

 

Wrth i galedwedd AI barhau i esblygu, mae'r galw am dechnolegau oeri arloesol yn tyfu. Nvidia'spensaernïaeth Blackwellsydd ar flaen y sifft hon, gan ddefnyddiodŵr cynnes Uniongyrchol i Chipoeri i hybu effeithlonrwydd a lleihau costau gweithredu.Oeri hylif, boed trwy gyswllt uniongyrchol neu ddulliau trochi, yw'r ffordd fwyaf effeithiol o reoli defnydd pŵer enfawr ac allbwn gwres systemau AI modern.

 

Mae cwmnïau cyfalaf menter yn cymryd sylw, gyda llawer yn buddsoddi mewn busnesau newydd a all gynnig atebion oeri cenhedlaeth nesaf. Wrth i ganolfannau data AI ddod yn fwy ac yn fwy cymhleth, bydd pwysigrwydd systemau oeri effeithlon a graddadwy yn cynyddu, gan wneud oeri hylif yn gonglfaen i seilwaith cyfrifiadura perfformiad uchel yn y dyfodol.