- NVIDIA on käivitanud algatuse Rusti natiivseks integreerimiseks GPU kerneli arendusse, kõrvaldades sõltuvuse teistest keeltest.
- Ökosüsteem jaguneb kaheks peamiseks marsruudiks: cuda-oksiid täielikuks kontrolliks SIMT-i kaudu ja cutile-rs lihtsustatud lähenemisviisiks, mis põhineb Tilesil.
- Mõlemad tööriistad toovad Rusti turvalisuse ja omandiõiguse garantiid riistvarale, tuvastades mäluvigu ja andmete käitamist kompileerimise ajal.
Kaasaegset tehisintellekti toetav infrastruktuur areneb peadpööritava kiirusega ja sammu pidamiseks on NVIDIA otsustanud investeerida suuresti Rusti natiivprogrammeerimisse . Kuigi CUDA C++ ja CUDA Python on ettevõtlussektori jaoks juba väljakujunenud ja töökindlad tööriistad, liigub tööstusharu Rusti poole, kuna see suudab kriitilised mäluvead enne koodi käivitamist kõrvaldada, ohverdamata toorjõudlust.
Kuni viimase ajani kasutati Rusti välistes kihtides, näiteks järeldusmootorites või draiverites, kuid GPU tuumad jäid "pimealaks", kus arendajad pidid kasutama teisi keeli. CUDA Rusti tulekuga püüab NVIDIA seda tehnoloogilist lõhet täita , võimaldades arendajatel kirjutada seadmeloogikat otse Rustis ja kompileerida see PTX-iks, vältides seega tülikaid ümbriseid, mis töövoogu keerulisemaks muutsid.
Kaks teed GPU vallutamiseks
Programmeerijate mitmekesiste vajadustega kohanemiseks on NVIDIA kasutusele võtnud kaks erinevat lähenemisviisi, mis jäljendavad CUDA mitmekülgsust. Ühelt poolt on olemas SIMT-mudel ja teiselt poolt Tile-mudel. Üldine soovitus on alustada Tile-lähenemisviisiga , kuna kompilaator optimeerib andmete kaardistamise iga arhitektuuri vahel, takistades programmeerijal tegema käsitsi ja tüütuid otsuseid konkreetse riistvara kohta.
Täielik kontroll cuda-oksiidiga (SIMT)
Neile, kes ei soovi kontrolli loovutada ja vajavad lõimede ja jagatud mälu üle ülimat täpsust, on olemas cuda-oxide . See tööriist toimib rustci jaoks kohandatud koodi genereerimise taustaprogrammina. Protsess on keeruline: kernelidena märgitud funktsioonid läbivad Rusti MIR-i, läbivad Plironi raamistiku ja LLVM IR-i ning teisendatakse lõpuks GPU-s käivitatavaks PTX-koodiks .
Mis puutub tehnilistesse nõuetesse, siis need pole just jalutuskäik pargis; vaja on Linuxit, graafikakaarti arvutusvõimsusega 8.0 või uuem ja tööriistakett öökomplektSelle süsteemi üks pärleid on selle kasutamine DisjointSliceandmetüüp, mis tagab, et igal lõimel on eksklusiivne juurdepääs teie elemendiletakistades Rusti kompilaatoril koodi blokeerimast, kui see üritab teha ühildumatuid muudetavaid laene.
Lihtsus ja turvalisus cutile-rs-iga (plaat)
Kui eelistate midagi sarnast NumPy või PyTorchiga töötamisele, on cutile-rs teie parim valik. Siin ei programmeerita üksikuid lõime, vaid opereeritakse pigem "plaatide" või andmeplokkidega. Kompilaator otsustab, mitu tegelikku lõime on selle ploki teisaldamiseks vaja, muutes arenduse palju sujuvamaks ja vähem altid indekseerimisvigadele.
Erinevalt oma sugulasest SIMT-ist on see projekt ligipääsetavam, kuna see töötab stabiilsel Rustil ega vaja LLVM-i käsitsi installimist. See kasutab makrot, mis kompileerib kerneli CUDA Tile IR-ide abil kohe esimesel käivitamisel (JIT). Selle suurepärane omadus on laisk operatsioonihaldus : programm registreerib käsurea ja käivitab kogu komplekti ainult sünkroonimismeetodi käivitamisel, optimeerides protsessori ja graafikaprotsessori vahelist suhtlust.
Kompilaatori võlujõud: hüvasti andmevõistlustega
Mis teeb CUDA Rustist tõelise revolutsioonilise valdkonna, on see, kuidas see mälu haldab. Traditsioonilises GPU-programmeerimises on aliasingu vead (kui kaks lõime kirjutavad samasse kohta) õudusunenäod, mis esinevad ainult tootmiskeskkonnas. Rust lahendab selle , jõustades oma omandiõiguse reeglid kerneli väljalaske piiril.
- SIMT-mudelis, kui proovite väljundpuhvrit sisendina kasutada, viskab kompilaator vea. muutliku laenu viga (E0502).
- Tile mudelis kantakse tensori omadus üle ja iga katse kasutada liigutatud väärtust põhjustab viga E0382.
See tähendab, et tarkvara on ehituskindlustusKuigi SIMT-is vajab jagatud mälu endiselt plokke unsafeTile mudel välistab vajaduse lõimeindekseid käsitsi hallata, kõrvaldades seega võimaluse teha neid klassikalisi vigu.
Projekti praegune seis ja tulevik
Oluline on asjad realistlikuks muuta: mõlemad projektid on eksperimentaalfaasis . cuda-oxide on varajases alfa-testimisjärgus, samas kui cutile-rs on arenenum ja seda kasutatakse juba sellistes projektides nagu HuggingFace'i Grouti järeldusmootor. NVIDIA on selgelt öelnud, et API-d võivad muutuda ja et nende tööriistade sobilikkuseni massiivsete tootmiskeskkondade jaoks on veel pikk tee minna.
Kuigi see ökosüsteem on uudne, eksisteerib see koos ja teeb koostööd varasemate projektidega, nagu rust-gpu ja CubeCL. Eesmärk on muuta Rust esmaklassiliseks keeleks kiirendatud andmetöötluseks, mis võimaldab GPU-koodil olla sama töökindel ja hooldatav kui süsteemikoodil. Tile'i ja SIMT-tuumade koostalitlusvõime samas voos tagab, et arendajad ei ole seotud ühe metoodikaga.
NVIDIA pühendumus Rusti integreerimisele CUDA tuuma kujutab endast tehisintellekti infrastruktuuri jaoks vajalikku arengut, nihutades turvalisuse käitusajast kompileerimisaega. Pakkudes nii detailse lõimede juhtimise kui ka lihtsustatud tensormanipulatsiooni võimalusi, demokratiseerib see juurdepääsu GPU-de äärmisele jõudlusele, kõrvaldades C++-le tüüpilise mälu hapruse, juhatades sisse ajastu, kus efektiivsus ja täielik turvalisus eksisteerivad samas binaarfailis koos.
Preguntas frecuentes
Mis vahe on cuda-oksiidil ja cutile-rs-il?
Cuda-oxide keskendub SIMT-mudelile neile, kes vajavad täielikku kontrolli niitide ja mälu üle, samas kui cutile-rs kasutab pingutite hõlpsamaks ja ohutumaks käsitsemiseks Tile-mudelit.
Kas CUDA Rusti on tänapäeval võimalik tootmisprojektides kasutada?
Seda ei soovitata tootmiseks, kuna mõlemad projektid on eksperimentaalsed, algstaadiumis ja nende API-d võivad läbida olulisi muutusi.
Millised riistvaranõuded on nende kernelide käitamiseks vajalikud?
Vajalik on NVIDIA graafikakaart arvutusvõimsusega 8.0 või uuem ja Linuxi operatsioonisüsteemide kasutamine.
Kuidas Rust GPU mäluvigu ennetab?
See kasutab omandi- ja laenamissüsteemi aliasingu konfliktide ja andmete käivitamise tuvastamiseks kompileerimise ajal, takistades ohtliku koodi käivitamist.
Kas ma pean kõige jaoks kasutama Rusti öist versiooni?
Ainult cuda-oxide'i tee vajab öist tööriistaketti, samas kui cutile-rs ühildub Rust 1.89 või uuemate stabiilsete versioonidega.
Kas ma saan samas rakenduses segada erinevate mudelite kerneleid?
Jah, Tile ja SIMT tuumad on koostalitlusvõimelised ning saavad jagatud seadmepuhvreid kasutades samal vool töötada.
Mis on PTX-kood CUDA Rusti kontekstis?
See on vahepealne assemblerkeel, millele Rusti tuumad kompileeritakse, et GPU draiver saaks neid tõhusalt käitada.




