Waxaa la sheegay in shirkadaha tignoolajiyada ay u xusulduubayaan GPU-yada ama ay ku socdaan waddadii ay ku heli lahaayeen. Bishii Abriil, maamulaha Tesla Elon Musk wuxuu iibsaday 10,000 GPUs wuxuuna sheegay in shirkaddu ay sii wadi doonto iibsashada tiro badan oo GPU-yada NVIDIA. Dhanka ganacsiga, shaqaalaha IT-ga ayaa sidoo kale si adag u riixaya si loo hubiyo in GPU-yada si joogto ah looga faa'iidaysto si loo kordhiyo soo celinta maalgashiga. Si kastaba ha ahaatee, shirkadaha qaar ayaa laga yaabaa inay ogaadaan in iyadoo tirada GPU-yadu ay kordheyso, shaqo la'aanta GPU-da ayaa noqonaysa mid aad u daran.
Haddii ay taariikhdu ina bartay wax ku saabsan xisaabinta waxqabadka sare leh (HPC), waa in kaydinta iyo isku xidhka aan loo hurayn kharashaadka diiradda saaraya xisaabinta. Haddii kaydinta aysan si hufan ugu wareejin karin xogta unugyada xisaabinta, xitaa haddii aad haysato GPU-yada adduunka ugu badan, ma gaari doontid waxtarka ugu wanaagsan.
Sida laga soo xigtay Mike Matchett, oo ah falanqeeye ka tirsan Xogta Weyn ee Adduunka Yar, moodooyinka yaryar ayaa lagu fulin karaa xusuusta (RAM), taasoo u oggolaanaysa in diiradda la saaro xisaabinta. Si kastaba ha ahaatee, moodooyinka waaweyn sida ChatGPT oo leh balaayiin nood ah laguma kaydin karo xusuusta qiimaha sarreeya awgeed.
"Ma ku haboonaan kartid balaayiin nodes xasuusta, sidaas darteed kaydinta ayaa xitaa ka sii muhiimsan," Mattchett ayaa yidhi. Nasiib darro, kaydinta xogta inta badan waa la iska indhatiraa inta lagu jiro habka qorshaynta.
Guud ahaan, iyadoon loo eegin kiiska isticmaalka, waxaa jira afar qodob oo guud oo ku jira habka tababarka moodeelka:
1. Tababarka Model
2. Codsiga Inference
3. Kaydinta Xogta
4. Xisaabinta Dardargelinta
Marka la abuurayo oo la hawlgelinayo moodooyinka, shuruudaha badankoodu waxay mudnaan siinayaan caddaynta degdegga ah ee fikradda (POC) ama jawi tijaabinta si loo bilaabo tababbarka moodeelka, iyada oo baahiyaha kaydinta xogta aan la siin tixgelin sare.
Si kastaba ha ahaatee, caqabadu waxay ku jirtaa xaqiiqda ah in tababarka ama ka-qaybgalku uu socon karo bilo ama xitaa sanado. Shirkado badan ayaa si degdeg ah u kordhiya cabbirkooda moodeelka inta lagu jiro wakhtigan, kaabayaasha waa in ay ballaariyaan si ay u habeeyaan moodooyinka soo koraya iyo xog-ururinta.
Cilmi-baadhista Google-ka ee malaayiinta culayska shaqada ee tababarka ML waxay daaha ka qaadaysaa in celcelis ahaan 30% wakhtiga tababarka lagu isticmaalo dhuumaha xogta wax-gelinta. Iyadoo cilmi-baaristii hore ay diiradda saartay tayaynta GPU-yada si loo dedejiyo tababarka, caqabado badan ayaa weli ku jira hagaajinta qaybaha kala duwan ee dhuumaha xogta. Markaad leedahay awood xisaabeed oo muhiim ah, cilada dhabta ahi waxay noqotaa sida ugu dhakhsaha badan ee aad u quudin karto xogta xisaabinta si aad u hesho natiijooyin.
Gaar ahaan, caqabadaha ku jira kaydinta xogta iyo maaraynta waxay u baahan yihiin qorshaynta kobaca xogta, taasoo kuu oggolaanaysa inaad si joogto ah u soo saartid qiimaha xogta markaad horumarayso, gaar ahaan marka aad ku hawlan tahay kiisas isticmaal oo horumarsan sida barashada qoto dheer iyo shabakadaha neerfaha, kuwaas oo dhigaya baahiyo sare. kaydinta xagga awoodda, waxqabadka, iyo miisaanka.
Gaar ahaan:
Miisaanka
Barashada mishiinku waxay u baahan tahay maaraynta xog aad u badan, iyo marka mugga xogtu korodho, saxnaanta moodooyinka sidoo kale way horumaraysaa. Tani waxay ka dhigan tahay in ganacsiyadu ay tahay inay ururiyaan oo kaydiyaan xog badan maalin kasta. Marka kaydintu aanay qiyaasi karin, culaysyada shaqada ee xog-ururinta ahi waxay abuuraan cidhiidhi, xaddidaya waxqabadka waxayna keenaysaa waqti kharash la'aan GPU-da.
Dabacsanaan
Taageerada dabacsan ee borotokoollada badan (oo ay ku jiraan NFS, SMB, HTTP, FTP, HDFS, iyo S3) waa lagama maarmaan si loo daboolo baahiyaha nidaamyo kala duwan, halkii lagu xaddidi lahaa hal nooc oo deegaan ah.
Latency
Daahida I/O waxay muhiim u tahay dhisidda iyo adeegsiga moodooyinka marka xogta la akhriyo oo dib loo akhriyo marar badan. Yaraynta daahitaanka I/O waxay soo gaabin kartaa wakhtiga tababarka moodooyinka maalmo ama bilo. Horumarinta moodeelka degdega ah waxay si toos ah u tarjumeysaa faa'iidooyinka ganacsi ee waaweyn.
Isku soo wada duuboo
Soo saarista nidaamyada kaydinta ayaa muhiim u ah tababarka moodeelka hufan. Nidaamyada tababarku waxay ku lug leeyihiin tiro badan oo xog ah, sida caadiga ah terabytes saacaddii.
Helitaanka barbar socda
Si loo gaaro wax-soo-saar sare, moodooyinka tababarku waxay u qaybiyaan hawlo badan oo isbarbar socda. Tani waxay inta badan ka dhigan tahay in algorithms-barashada mashiinka ay ka helaan faylal isku mid ah habab badan (oo ay suurtagal tahay in ay ku jiraan server-yo badan oo jireed) isku mar. Nidaamka kaydinta waa in uu qabtaa dalabaadka iswada jira isaga oo aan waxba u dhimayn waxqabadka.
Iyada oo leh awoodaheeda aadka u wanaagsan ee daahsoon hooseeya, soo-saarka sare, iyo isbarbardhigga baaxadda weyn ee I/O, Dell PowerScale waa kaydinta ugu habboon ee dhammaystirka xisaabinta dardar-gelinta GPU-da. PowerScale waxay si wax ku ool ah u yaraynaysaa wakhtiga loo baahan yahay moodooyinka falanqaynta ee tababara oo tijaabiya xogta terabyte-ka badan. In PowerScale oo dhan-flash kaydinta, bandwidth kordhiyaa by 18 jeer, baabi'inta I / O dhalooyinka, oo lagu dari karaa in kooxaha Isilon jira si loo dardar iyo furo qiimaha xaddi badan oo xogta aan habaysan.
Intaa waxaa dheer, awoodaha gelitaanka borotokoolka badan ee PowerScale ayaa bixiya dabacsanaan aan xadidnayn oo loogu talagalay socodsiinta culeysyada shaqada, taas oo u oggolaanaysa in xogta lagu kaydiyo iyada oo la adeegsanayo hal hab-maamuus oo la galo iyada oo la adeegsanayo mid kale. Gaar ahaan, sifooyinka xoogga leh, dabacsanaanta, miisaanka, iyo shaqeynta heerka-shirkadeed ee madal PowerScale waxay gacan ka geystaan wax ka qabashada caqabadaha soo socda:
- Dardar gelinta hal-abuurka ilaa 2.7 jeer, yaraynta wareegga tababarka moodeelka.
- Ciribtirka ciribtirka I/O oo bixi tababbarka moodeelka degdega ah iyo ansaxinta, saxnaanta moodeelka oo la wanaajiyay, wax soo saarka sayniska xogta oo la xoojiyey, iyo soo celinta ugu badan ee maalgelinta xisaabinta iyada oo la adeegsanayo sifooyinka heerka-shirkadda, waxqabadka sare, isdhaafsiga, iyo miisaanka. Ku xooji saxnaanta moodeelka xogta qoto dheer, qaraarka sare adiga oo ka faa'iidaysanaya ilaa 119 PB ee awoodda kaydinta waxtarka leh ee hal koox.
- Ku guulaysta hawlgelinta baaxada leh adigoo bilaabaya wax yar oo si madaxbanaan u miisaamaya xisaabinta iyo kaydinta, bixinta ilaalinta xogta adag iyo fursadaha amniga.
- Ku wanaaji wax soo saarka sayniska xogta iyada oo la adeegsanayo falanqaynta goobta iyo xalalka la sii xaqiijiyay ee degdega ah, hawlgelinta khatarta hoose.
- Ka faa'iidaysiga nashqadaha la xaqiijiyay ee ku salaysan tignoolajiyada ugu wanaagsan, oo ay ku jiraan dardargelinta NVIDIA GPU iyo naqshadaha tixraaca ee NVIDIA DGX. Waxqabadka sare ee PowerScale iyo lacag la'aanta waxay la kulmaa shuruudaha waxqabadka kaydinta ee marxalad kasta oo barashada mashiinka, laga bilaabo helitaanka xogta iyo diyaarinta ilaa moodal tababar iyo tixraac. Si wada jir ah nidaamka hawlgalka OneFS, dhammaan qanjidhada ayaa si aan kala go 'lahayn ugu dhex shaqayn kara isla kooxda OneFS-drive, oo leh astaamo heer-shirkadeed sida maaraynta waxqabadka, maaraynta xogta, amniga, iyo ilaalinta xogta, awoodna u siinaya dhamaystirka degdegga ah ee tababarka moodeelka iyo ansixinta ganacsiyada.
Waqtiga boostada: Jul-03-2023
