- NVIDIA je pokrenula inicijativu za izvornu integraciju Rusta u razvoj GPU kernela, uklanjajući ovisnost o drugim jezicima.
- Ekosustav je podijeljen na dva glavna puta: cuda-oxide za potpunu kontrolu putem SIMT-a i cutile-rs za pojednostavljeni pristup temeljen na pločicama.
- Oba alata donose Rustova jamstva sigurnosti i vlasništva nad hardverom, otkrivajući pogreške u memoriji i izvršavanje podataka tijekom kompajliranja.
Infrastruktura koja podržava modernu umjetnu inteligenciju razvija se vrtoglavom brzinom, a kako bi održala korak, NVIDIA je odlučila uložiti velika sredstva u izvorno programiranje u Rustu . Dok su CUDA C++ i CUDA Python već uspostavljeni i robusni alati za poslovni sektor, industrija se okreće Rustu zbog njegove sposobnosti uklanjanja kritičnih memorijskih pogrešaka prije nego što se kod uopće pokrene, bez žrtvovanja sirovih performansi.
Do nedavno, Rust se koristio u vanjskim slojevima kao što su inferencijski mehanizmi ili upravljački programi, ali GPU kerneli su ostali "slijepa točka" gdje su se programeri morali pribjegavati drugim jezicima. Dolaskom CUDA Rusta, NVIDIA nastoji zatvoriti ovaj tehnološki jaz , omogućujući programerima da pišu logiku uređaja izravno u Rustu i kompajliraju je u PTX, čime se izbjegavaju glomazni omotači koji su komplicirali tijek rada.
Dva puta za osvajanje GPU-a
Kako bi se prilagodila raznolikim potrebama programera, NVIDIA je implementirala dva različita pristupa koji oponašaju svestranost CUDA-e. S jedne strane, postoji SIMT model, a s druge, Tile model. Opća preporuka je započeti s Tile pristupom , jer kompajler optimizira način mapiranja podataka na svakoj arhitekturi, sprječavajući programera da mora donositi ručne i zamorne odluke o određenom hardveru.
Potpuna kontrola s cuda-oksidom (SIMT)
Za one koji ne žele odustati od kontrole i trebaju točnu preciznost nad nitima i dijeljenom memorijom, tu je cuda-oxide . Ovaj alat djeluje kao prilagođeni backend za generiranje koda za rustc. Proces je složen: funkcije označene kao kerneli prolaze kroz Rustov MIR, prolaze kroz Pliron framework i LLVM IR te se konačno pretvaraju u PTX kod izvršni na GPU-u.
Što se tiče tehničkih zahtjeva, nije baš lagan zadatak; potreban vam je Linux, GPU s računalnim mogućnostima 8.0 ili novijim i noćni set alataJedan od dragulja ovog sustava je korištenje DisjointSlicetip podataka koji osigurava da svaka nit ima ekskluzivan pristup vašem elementusprječavanje Rust kompajlera da blokira kod zbog pokušaja izrade nekompatibilnih promjenjivih posuđenica.
Jednostavnost i sigurnost s cutile-rs (pločicama)
Ako više volite nešto poput rada s NumPy ili PyTorch, cutile-rs je vaša najbolja opcija. Ovdje ne programirate pojedinačne niti, već radite na "pločicama" ili blokovima podataka. Kompajler odlučuje koliko je stvarnih niti potrebno za pomicanje tog bloka, što razvoj čini mnogo glatkijim i manje sklonim pogreškama indeksiranja.
Za razliku od svog brata SIMT-a, ovaj je projekt pristupačniji jer radi na stabilnom Rustu i ne zahtijeva ručnu instalaciju LLVM-a. Koristi makro koji kompajlira kernel pomoću CUDA Tile IR-ova odmah u trenutku prvog pokretanja (JIT). Briljantna značajka je njegovo lijeno upravljanje operacijama : program registrira naredbeni niz i izvršava cijeli skup samo kada se pozove metoda sinkronizacije, optimizirajući komunikaciju između CPU-a i GPU-a.
Čarolija kompajlera: Zbogom utrkama podataka
Ono što CUDA Rustu zaista mijenja pravila igre jest način na koji rukuje memorijom. U tradicionalnom GPU programiranju, pogreške aliasiranja (kada dvije niti pišu na istu lokaciju) su noćne more koje se pojavljuju samo u produkciji. Rust to rješava provođenjem svojih pravila vlasništva na granici izdanja kernela.
- U SIMT modelu, ako pokušate koristiti izlazni međuspremnik kao ulaz, kompajler će izbaciti grešku. pogreška promjenjivog kredita (E0502).
- U Tile modelu, svojstvo tenzora se prenosi i svaki pokušaj korištenja premještene vrijednosti uzrokovat će pogreška E0382.
To znači da je softver osiguranje za gradnjuDok u SIMT-u dijeljena memorija i dalje zahtijeva blokove unsafeModel Tile eliminira potrebu za ručnim upravljanjem indeksima niti, uklanjajući mogućnost pravljenja onih klasičnih pogrešaka iz jednadžbe.
Trenutno stanje i budućnost projekta
Važno je ostati realističan: oba projekta su u eksperimentalnoj fazi . cuda-oxide je u ranoj alfa verziji, dok je cutile-rs napredniji i već se koristi u projektima poput HuggingFaceovog Grout inference engine-a. NVIDIA je jasno dala do znanja da se API-ji mogu promijeniti i da još uvijek postoji dug put prije nego što ovi alati budu prikladni za masovna produkcijska okruženja.
Iako je nov, ovaj ekosustav koegzistira i surađuje s prethodnim naporima kao što su rust-gpu i CubeCL. Cilj je učiniti Rust prvoklasnim jezikom za ubrzano računanje, omogućujući da GPU kod bude jednako robustan i održiv kao i sistemski kod. Mogućnost međudjelovanja između Tile i SIMT kernela u istom streamu osigurava da programeri nisu ograničeni na jednu metodologiju.
NVIDIA-ina predanost integraciji Rusta u jezgru CUDA-e predstavlja nužnu evoluciju za AI infrastrukturu, pomičući sigurnost iz vremena izvođenja u vrijeme kompajliranja. Nudeći puteve za granularnu kontrolu niti i pojednostavljenu manipulaciju tenzorima, demokratizira pristup ekstremnim performansama GPU-a eliminirajući tipičnu krhkost memorije u C++-u, čime se uvodi era u kojoj učinkovitost i potpuna sigurnost koegzistiraju unutar istog binarnog programa.
Često postavljana pitanja
Koja je razlika između cuda-oksida i cutile-rsa?
Cuda-oxide se fokusira na SIMT model za one kojima je potrebna potpuna kontrola nad nitima i memorijom, dok cutile-rs koristi Tile model za lakše i sigurnije upravljanje zatezačima.
Je li danas moguće koristiti CUDA Rust u produkcijskim projektima?
Ne preporučuje se za produkciju jer su oba projekta eksperimentalna, u ranoj su fazi i njihovi API-ji mogu pretrpjeti značajne promjene.
Koji hardverski zahtjevi su mi potrebni za pokretanje ovih kernela?
Potrebna je NVIDIA GPU s računalnim mogućnostima 8.0 ili novijim i korištenje Linux operativnih sustava.
Kako Rust sprječava greške u GPU memoriji?
Koristi sustav vlasništva i posuđivanja za otkrivanje sukoba aliasinga i izvršavanja podataka tijekom kompilacije, sprječavajući izvođenje nesigurnog koda.
Trebam li koristiti noćnu verziju Rusta za sve?
Samo cuda-oxide put zahtijeva noćni alatni lanac, dok je cutile-rs kompatibilan sa stabilnim verzijama Rusta 1.89 ili novijim.
Mogu li miješati kernele različitih modela u istoj aplikaciji?
Da, Tile i SIMT kerneli su interoperabilni i mogu se pokretati na istom streamu koristeći zajedničke međuspremnike uređaja.
Što je PTX kod u kontekstu CUDA Rusta?
To je međuasemblerski jezik u koji se kompajliraju Rust kerneli kako bi ih GPU upravljački program mogao učinkovito pokretati.




