- NVIDIA ir uzsākusi iniciatīvu, lai Rust integrētu GPU kodola izstrādē, novēršot atkarību no citām valodām.
- Ekosistēma ir sadalīta divos galvenajos maršrutos: cuda-oksīds pilnīgai kontrolei, izmantojot SIMT, un cutile-rs vienkāršotai pieejai, kuras pamatā ir Tiles.
- Abi rīki nodrošina Rust drošības un īpašumtiesību garantijas aparatūrai, atklājot atmiņas kļūdas un datu palaišanu kompilēšanas laikā.
Mūsdienu mākslīgā intelekta atbalsta infrastruktūra attīstās ļoti strauji, un, lai neatpaliktu, NVIDIA ir nolēmusi ieguldīt ievērojamus līdzekļus Rust vietējā programmēšanā . Lai gan CUDA C++ un CUDA Python jau ir atzīti un stabili rīki uzņēmumu sektoram, nozare pāriet uz Rust, jo tā spēj novērst kritiskas atmiņas kļūdas pirms koda palaišanas, neupurējot sākotnējo veiktspēju.
Līdz pavisam nesenam laikam Rust tika izmantots ārējos slāņos, piemēram, secinājumu dzinējos vai draiveros, taču GPU kodoli palika "aklais punkts", kur izstrādātājiem bija jāizmanto citas valodas. Ar CUDA Rust parādīšanos NVIDIA cenšas aizpildīt šo tehnoloģisko plaisu , ļaujot izstrādātājiem rakstīt ierīces loģiku tieši Rust valodā un kompilēt to PTX formātā, tādējādi izvairoties no apgrūtinošajiem apvalkiem, kas sarežģīja darbplūsmu.
Divi ceļi GPU iekarošanai
Lai pielāgotos programmētāju dažādajām vajadzībām, NVIDIA ir ieviesusi divas dažādas pieejas, kas atdarina CUDA daudzpusību. No vienas puses, pastāv SIMT modelis, bet no otras puses — Tile modelis. Vispārējais ieteikums ir sākt ar Tile pieeju , jo kompilators optimizē datu kartēšanu katrā arhitektūrā, novēršot programmētājam manuālu un nogurdinošu lēmumu pieņemšanu par konkrētu aparatūru.
Pilnīga kontrole ar cuda-oksīdu (SIMT)
Tiem, kas nevēlas atteikties no kontroles un kuriem nepieciešama precīza apstrāde pār pavedieniem un koplietojamo atmiņu, ir pieejams cuda-oxide . Šis rīks darbojas kā pielāgota koda ģenerēšanas aizmugursistēma rustc. Process ir sarežģīts: funkcijas, kas atzīmētas kā kodoli, iziet cauri Rust MIR, iziet cauri Pliron ietvaram un LLVM IR un visbeidzot tiek pārveidotas par PTX koda izpildāmo failu GPU.
Runājot par tehniskajām prasībām, tās nav gluži pastaiga parkā; jums ir nepieciešams Linux, grafiskais procesors ar skaitļošanas iespējām 8.0 vai jaunākām un instrumentu ķēdes komplekts katru naktiViens no šīs sistēmas dārgakmeņiem ir tā izmantošana. DisjointSlicedatu tips, kas nodrošina, ka katram pavedienam ir ekskluzīva piekļuve jūsu elementamneļaujot Rust kompilatoram bloķēt kodu, mēģinot veikt nesaderīgus maināmus aizņēmumus.
Vienkāršība un drošība ar cutile-rs (flīzēm)
Ja vēlaties kaut ko līdzīgu darbam ar NumPy vai PyTorch, cutile-rs ir labākā izvēle. Šeit jūs neprogrammējat atsevišķus pavedienus, bet gan strādājat ar "flīzēm" jeb datu blokiem. Kompilators izlemj, cik faktisko pavedienu ir nepieciešami, lai pārvietotu šo bloku, padarot izstrādi daudz vienmērīgāku un mazāk pakļautu indeksēšanas kļūdām.
Atšķirībā no tā līdzinieka SIMT, šis projekts ir pieejamāks, jo darbojas uz stabilas Rust vides un neprasa manuālu LLVM instalēšanu. Tas izmanto makro, kas kompilē kodolu, izmantojot CUDA Tile IR, tieši pirmās palaišanas laikā (JIT). Izcila funkcija ir tā slinko darbību pārvaldība : programma reģistrē komandu virkni un izpilda visu komplektu tikai tad, kad tiek izsaukta sinhronizācijas metode, optimizējot saziņu starp centrālo procesoru un grafisko procesoru.
Kompilatora maģija: ardievas datu sacīkstēm
CUDA Rust par revolucionāru tehnoloģiju padara atmiņas apstrāde. Tradicionālajā GPU programmēšanā aliasinga kļūdas (kad divi pavedieni raksta vienā un tajā pašā vietā) ir murgi, kas rodas tikai ražošanas vidē. Rust šo problēmu risina , ieviešot īpašumtiesību noteikumus jau kodola izlaišanas robežās.
- SIMT modelī, ja mēģināsiet izmantot izvades buferi kā ievadi, kompilators radīs kļūdu. mainīga aizdevuma kļūda (E0502).
- Moduļa modelī tenzora īpašība tiek pārnesta, un jebkurš mēģinājums izmantot pārvietoto vērtību izraisīs kļūda E0382.
Tas nozīmē, ka programmatūra ir apdrošināšana būvniecībaiTurpretī SIMT koplietotajā atmiņā joprojām ir nepieciešami bloki unsafeMozaīkas modelis novērš nepieciešamību manuāli pārvaldīt pavedienu indeksus, tādējādi novēršot iespēju pieļaut šīs klasiskās kļūdas.
Projekta pašreizējais statuss un nākotne
Ir svarīgi saglabāt reālistisku nostāju: abi projekti ir eksperimentālā fāzē . cuda-oxide ir agrīnā alfa versijā, savukārt cutile-rs ir attīstītāks un jau tiek izmantots tādos projektos kā HuggingFace Grout secinājumu dzinējs. NVIDIA ir skaidri norādījusi, ka API var mainīties un ka vēl ir tāls ceļš ejams, līdz šie rīki būs piemēroti masveida ražošanas vidēm.
Lai gan šī ekosistēma ir jauna, tā pastāv līdzās un sadarbojas ar iepriekšējiem projektiem, piemēram, rust-gpu un CubeCL. Mērķis ir padarīt Rust par pirmklasīgu valodu paātrinātai skaitļošanai, ļaujot GPU kodam būt tikpat robustam un uzturamam kā sistēmas kodam. Spēja mijiedarboties starp Tile un SIMT kodoliem vienā plūsmā nodrošina, ka izstrādātāji nav piesaistīti vienai metodoloģijai.
NVIDIA apņemšanās integrēt Rust CUDA kodolā atspoguļo nepieciešamu mākslīgā intelekta infrastruktūras evolūciju, pārceļot drošību no izpildlaika uz kompilēšanas laiku. Piedāvājot gan detalizētas pavedienu kontroles, gan vienkāršotas tenzoru manipulācijas ceļus, tā demokratizē piekļuvi GPU ārkārtīgi augstajai veiktspējai, novēršot C++ raksturīgo atmiņas trauslumu, tādējādi ievadot laikmetu, kurā efektivitāte un pilnīga drošība pastāv līdzās vienā binārajā failā.
Bieži uzdotie jautājumi
Kāda ir atšķirība starp cuda-oksīdu un cutile-rs?
Cuda-oxide koncentrējas uz SIMT modeli tiem, kam nepieciešama pilnīga kontrole pār pavedieniem un atmiņu, savukārt cutile-rs izmanto Tile modeli, lai spriegotājus darbinātu vienkāršāk un drošāk.
Vai CUDA Rust mūsdienās ir iespējams izmantot ražošanas projektos?
Tas nav ieteicams ražošanai, jo abi projekti ir eksperimentāli, atrodas agrīnā stadijā un to API var tikt būtiski mainīti.
Kādas aparatūras prasības man ir nepieciešamas, lai palaistu šos kodolus?
Nepieciešama NVIDIA GPU ar skaitļošanas jaudu 8.0 vai jaunāku versiju un Linux operētājsistēmu izmantošana.
Kā Rust novērš GPU atmiņas kļūdas?
Tas izmanto īpašumtiesību un aizņemšanās sistēmu, lai kompilācijas laikā atklātu aliasinga konfliktus un datu palaišanu, novēršot nedroša koda palaišanu.
Vai man visam ir jāizmanto Rust nakts versija?
Tikai cuda-oxide ceļam ir nepieciešama nakts rīku ķēde, savukārt cutile-rs ir saderīgs ar stabilām Rust 1.89 vai jaunākām versijām.
Vai vienā lietojumprogrammā var kombinēt dažādu modeļu kodolus?
Jā, Tile un SIMT kodoli ir savietojami un var darboties vienā straumē, izmantojot koplietotas ierīču buferus.
Kas ir PTX kods CUDA Rust kontekstā?
Tā ir starpposma montāžas valoda, kurā tiek kompilēti Rust kodoli, lai GPU draiveris varētu tos efektīvi palaist.




