- Įrengti „Intel Xeon Granite Rapids“ procesoriai ir „NVIDIA RTX Pro 6000“ vaizdo plokštės su 96 GB GDDR7 atmintimi.
- Optimizavimas generatyviniam dirbtiniam intelektui periferijoje, leidžiantis vykdyti vietinį LLM ir sumažinti žetonų kainą.
- Išplėstinė HPC, fotorealistinio 3D vaizdavimo ir skaitmeninių dvynukų modeliavimo parama.
- PCIe 5.0 pagrindu sukurta infrastruktūra, skirta intensyviam veikimui visą parą.
Jei norite pakelti savo skaičiavimo galią į kitą lygį, tikriausiai jau žinote, kad dabartinė rinka išgyvena tikrą revoliuciją dėl dirbtinio intelekto. Kalbame ne apie paprastus greitus kompiuterius, o apie darbo stotis, skirtas didelio našumo skaičiavimams (HPC), kurie gali lengvai apdoroti didžiulius duomenų kiekius, leisdami įmonėms pereiti nuo debesijos prie dirbtinio intelekto periferinio modelio.
Turėti kompiuterį su naujausios kartos „Intel Xeon“ procesoriumi ir „NVIDIA RTX Pro 6000“ vaizdo plokšte nėra prabanga; tai strateginė investicija į sąnaudų optimizavimą . Paleidus didelius kalbų modelius (LLM) vietoje, išvengiama mokėjimo už kiekvieną išorinių API sugeneruotą žetoną, o tai reiškia didelę santaupą vidutinės trukmės laikotarpiu, ypač automatizuoto programavimo aplinkose arba sudėtingose mokslinėse simuliacijose.
Našumo širdis: „Intel Xeon Granite Rapids“
Šių mašinų galia daugiausia slypi jų procesoriuose, tokiuose kaip „Intel Xeon 678X“ iš „Granite Rapids“ šeimos. Kalbame apie procesorius, galinčius pasiekti 48 branduolius ir 96 gijas , siūlančius iki 4,2 GHz turbo dažnius visuose branduoliuose. Ši galimybė yra esminė norint valdyti procesoriaus našumo koregavimus skirtingiems darbo krūviams , užtikrinant, kad GPU nelauktų informacijos ir kad darbo eiga vyktų sklandžiai.
Virtualizuotose konfigūracijose, tokiose kaip „Azure“ aplinkose, šie procesoriai leidžia padidinti nuo 24 iki 288 vCPU, užtikrinant, kad konverguoti dirbtinio intelekto ir vizualinio skaičiavimo darbo krūviai veiktų maksimaliai efektyviai ir išvengtų kliūčių atliekant sudėtingiausias užduotis.
NVIDIA RTX Pro 6000: Blackwell architektūros žvėris
Jei procesorius yra smegenys, tai GPU yra raumuo. „NVIDIA RTX Pro 6000“, paremta „Blackwell“ architektūra, yra tiesiog neprilygstama. Ryškiausia jos savybė – 96 GB GDDR7 VRAM , kuri ženkliai padidina pralaidumą ir leidžia dirbti su didžiuliais duomenų rinkiniais, kurie anksčiau buvo neįsivaizduojami išsamiame lokaliai įdiegtų dirbtinio intelekto GPU vadove . Dėl to galima atlikti LLM ir RAG išvadas modeliuose, turinčiuose iki 70 milijardų parametrų.
- 5-osios kartos tenzoriniai branduoliai: Jie trigubai padidina našumą, palyginti su ankstesne karta, ir palaiko FP4 tikslumą, idealiai tinka naujų dirbtinio intelekto modelių prototipams kurti.
- 4-osios kartos RT branduoliai: Jie padvigubina spindulių sekimo greitį, leisdami kurti fotorealistines scenas ir įtraukiančius 3D dizainus su stulbinančiu fiziniu tikslumu.
- „Blackwell CUDA“ branduoliai: Jie integruoja neuroninius šešėliavimo elementus, kurie pakelia grafines inovacijas ir dirbtinio intelekto apdorojimą į visiškai naują dimensiją.
Be to, įrenginyje integruoti 9-os kartos NVENC ir 6-os kartos NVDEC varikliai, kurie pagreitina profesionalų vaizdo įrašų kodavimą ir dekodavimą tokiais formatais kaip AV1, H.264 ir HEVC 4:2:2, todėl tai nepakeičiama priemonė aukščiausios klasės vaizdo įrašų redagavimui.
Išplėstinės galimybės ir ryšys
Kad visa ši aparatinė įranga veiktų, reikalinga tvirta infrastruktūra. PCI Express 5.0 naudojimas yra labai svarbus, nes jis dvigubai padidina duomenų perdavimo greitį, palyginti su ankstesne karta. Tai gyvybiškai svarbu perkeliant gigabaitus informacijos tarp sistemos atminties ir GPU. Be to, „DisplayPort 2.1“ leidžia prijungti iki 16K raiškos 60 Hz dažnio monitorius, o tai suteikia precedento neturintį vaizdinį aiškumą pramoniniam dizainui ir architektūrai.
Kalbant apie fizinę aparatinę įrangą, tokios sistemos kaip „HP Z4 G6i“ išsiskiria savo patikimumu. Jos sukurtos veikti visą parą neprarandant stabilumo. Dėl galingos oro aušinimo sistemos komponentai nėra perkaitę. Be to, jos yra universalios, nes jas galima montuoti 4U stelažuose arba naudoti kaip nuotolines darbo stotis, kur keli vartotojai gali vienu metu pasiekti skaičiavimo galią.
Realaus pasaulio pritaikymas profesionaliame sektoriuje
Šios darbo stotys skirtos ne naršyti internete; jos sukurtos užduotims, kurioms laikas – pinigai. Realaus laiko skaitmeniniai dvyniai, naudojantys „NVIDIA Omniverse“ arba GPU spartinamą darbalaukio virtualizaciją (VDI), yra tik keli pavyzdžiai. Inžinerijoje CAD/CAM dizainas ir mokslinė vizualizacija naudojant FP32 tiesiogiai naudojasi šia neapdorota galia.
Tiems, kuriems reikalingas maksimalus tankis, yra tokių versijų kaip 300 W „Max-Q“, kuri leidžia vienoje sistemoje integruoti iki keturių GPU . Tai leidžia dirbtinio intelekto mokymo ir 3D vaizdavimo galimybes pritaikyti pramoniniam lygiui, paverčiant darbo stotį mažu, privačiu duomenų centru.
„Xeon Granite Rapids“ procesorių ir „RTX Pro 6000“ grafikos plokštės derinys su 96 GB vaizdo atmintimi iš naujo apibrėžia, ką galima daryti lokaliai, panaikinant priklausomybę nuo debesies ir optimizuojant investicijų grąžą, nes įmonės aplinkoje veikia generatyvus dirbtinis intelektas ir aukšto lygio HPC, užtikrinant visišką stabilumą.
