- NVIDIA je pokrenula inicijativu za izvornu integraciju Rusta u razvoj GPU kernela, eliminirajući ovisnost o drugim programskim jezicima.
- Ekosistem je podijeljen na dva glavna puta: cuda-oxide za potpunu kontrolu putem SIMT-a i cutile-rs za pojednostavljeni pristup zasnovan na Tiles-u.
- Oba alata donose Rustove garancije sigurnosti i vlasništva nad hardverom, otkrivajući greške u memoriji i izvršavanje podataka tokom kompajliranja.
Infrastruktura koja podržava modernu vještačku inteligenciju razvija se vrtoglavom brzinom, a kako bi održala korak, NVIDIA je odlučila da značajno investira u izvorno programiranje u Rustu . Dok su CUDA C++ i CUDA Python već uspostavljeni i robusni alati za poslovni sektor, industrija se okreće Rustu zbog njegove sposobnosti da eliminiše kritične greške u memoriji prije nego što se kod uopšte pokrene, bez žrtvovanja sirovih performansi.
Do nedavno, Rust se koristio u vanjskim slojevima kao što su inferencijalni mehanizmi ili drajveri, ali su GPU kerneli ostali "slijepa tačka" gdje su se programeri morali pribjegavati drugim jezicima. Dolaskom CUDA Rusta, NVIDIA nastoji zatvoriti ovaj tehnološki jaz , omogućavajući programerima da pišu logiku uređaja direktno u Rustu i kompajliraju je u PTX, čime se izbjegavaju glomazni omotači koji su komplikovali radni proces.
Dva puta do osvajanja GPU-a
Kako bi se prilagodila raznolikim potrebama programera, NVIDIA je primijenila dva različita pristupa koji oponašaju svestranost CUDA-e. S jedne strane, postoji SIMT model, a s druge, Tile model. Opća preporuka je početi s Tile pristupom , jer kompajler optimizira način mapiranja podataka u svakoj arhitekturi, sprječavajući programera da mora donositi ručne i zamorne odluke o specifičnom hardveru.
Potpuna kontrola s cuda-oksidom (SIMT)
Za one koji ne žele odustati od kontrole i potrebna im je velika tačnost nad nitima i dijeljenom memorijom, tu je cuda-oxide . Ovaj alat djeluje kao prilagođeni backend za generiranje koda za rustc. Proces je složen: funkcije označene kao kerneli prolaze kroz Rustov MIR, prolaze kroz Pliron framework i LLVM IR, te se konačno pretvaraju u PTX kod koji se može izvršiti na GPU-u.
Što se tiče tehničkih zahtjeva, nije baš lako; potreban vam je Linux, GPU sa računarskim mogućnostima verzije 8.0 ili novije i noćni set alataJedan od dragulja ovog sistema je upotreba DisjointSlicetip podataka koji osigurava da svaka nit ima ekskluzivan pristup vašem elementusprečavanje Rust kompajlera da blokira kod zbog pokušaja pravljenja nekompatibilnih promjenjivih pozajmica.
Jednostavnost i sigurnost uz cutile-rs (pločice)
Ako više volite nešto poput rada s NumPy ili PyTorch, cutile-rs je vaša najbolja opcija. Ovdje ne programirate pojedinačne niti, već radite na "pločicama" ili blokovima podataka. Kompajler odlučuje koliko je stvarnih niti potrebno za pomicanje tog bloka, što razvoj čini mnogo glatkijim i manje sklonim greškama u indeksiranju.
Za razliku od svog srodnog SIMT-a, ovaj projekat je pristupačniji jer radi na stabilnom Rustu i ne zahtijeva ručnu instalaciju LLVM-a. Koristi makro koji kompajlira kernel koristeći CUDA Tile IR-ove odmah u trenutku prvog pokretanja (JIT). Briljantna karakteristika je njegovo "lijeno" upravljanje operacijama : program registruje komandni niz i izvršava cijeli set samo kada se pozove metoda sinhronizacije, optimizujući komunikaciju između CPU-a i GPU-a.
Magija kompajlera: Zbogom utrkama podataka
Ono što CUDA Rustu zaista mijenja pravila igre jeste način na koji rukuje memorijom. U tradicionalnom GPU programiranju, greške aliasiranja (kada dva niza pišu na istu lokaciju) su noćne more koje se pojavljuju samo u produkciji. Rust to rješava nametanjem svojih pravila vlasništva na granici izdanja kernela.
- U SIMT modelu, ako pokušate koristiti izlazni bafer kao ulaz, kompajler će izbaciti grešku. greška promjenjivog kredita (E0502).
- U Tile modelu, svojstvo tenzora se prenosi i svaki pokušaj korištenja premještene vrijednosti uzrokovat će greška E0382.
To znači da je softver osiguranje za građevinarstvoDok u SIMT-u dijeljena memorija i dalje zahtijeva blokove unsafeModel Tile eliminira potrebu za ručnim upravljanjem indeksima niti, uklanjajući mogućnost pravljenja onih klasičnih grešaka iz jednačine.
Trenutno stanje i budućnost projekta
Važno je ostati realističan: oba projekta su u eksperimentalnoj fazi . cuda-oxide je u ranoj alfa verziji, dok je cutile-rs napredniji i već se koristi u projektima poput HuggingFaceovog Grout inference engine-a. NVIDIA je jasno stavila do znanja da se API-ji mogu promijeniti i da još uvijek postoji dug put prije nego što ovi alati budu pogodni za masovna produkcijska okruženja.
Uprkos tome što je nov, ovaj ekosistem koegzistira i sarađuje s prethodnim naporima kao što su rust-gpu i CubeCL. Cilj je učiniti Rust prvoklasnim jezikom za ubrzano računarstvo, omogućavajući da GPU kod bude robustan i održiv kao sistemski kod. Mogućnost međudjelovanja između Tile i SIMT kernela u istom toku osigurava da programeri nisu ograničeni na jednu metodologiju.
NVIDIA-ina posvećenost integraciji Rusta u jezgro CUDA-e predstavlja neophodnu evoluciju za AI infrastrukturu, pomjerajući sigurnost iz vremena izvođenja u vrijeme kompajliranja. Nudeći puteve za granularnu kontrolu niti i pojednostavljenu manipulaciju tenzorima, demokratizuje pristup ekstremnim performansama GPU-a eliminišući tipičnu krhkost memorije u C++-u, čime se uvodi era u kojoj efikasnost i potpuna sigurnost koegzistiraju unutar istog binarnog fajla.
Često postavljana pitanja
Koja je razlika između cuda-oksida i cutile-rsa?
Cuda-oxide se fokusira na SIMT model za one kojima je potrebna potpuna kontrola nad nitima i memorijom, dok cutile-rs koristi Tile model za lakše i sigurnije upravljanje zatezačima.
Da li je danas moguće koristiti CUDA Rust u produkcijskim projektima?
Ne preporučuje se za produkciju jer su oba projekta eksperimentalna, u ranoj su fazi i njihovi API-ji mogu pretrpjeti značajne promjene.
Koji hardverski zahtjevi su mi potrebni za pokretanje ovih kernela?
Potrebna je NVIDIA GPU sa računarskim kapacitetom 8.0 ili novijim i korištenje Linux operativnih sistema.
Kako Rust sprečava greške u GPU memoriji?
Koristi sistem vlasništva i pozajmljivanja za otkrivanje sukoba aliasinga i izvršavanja podataka tokom kompajliranja, sprječavajući izvršavanje nesigurnog koda.
Da li trebam koristiti noćnu verziju Rusta za sve?
Samo cuda-oxide put zahtijeva noćni alatni lanac, dok je cutile-rs kompatibilan sa stabilnim verzijama Rusta 1.89 ili novijim.
Mogu li miješati kernele različitih modela u istoj aplikaciji?
Da, Tile i SIMT kerneli su interoperabilni i mogu se pokretati na istom streamu koristeći zajedničke bafere uređaja.
Šta je PTX kod u kontekstu CUDA Rusta?
To je međuasemblerski jezik u koji se kompajliraju Rust kerneli kako bi ih GPU drajver mogao efikasno pokretati.




