- NVIDIA је покренула иницијативу за изворну интеграцију Rust-а у развој GPU кернела, елиминишући зависност од других језика.
- Екосистем је подељен на два главна пута: cuda-oxide за потпуну контролу путем SIMT-а и cutile-rs за поједностављени приступ заснован на плочицама.
- Оба алата доносе Рустове гаранције безбедности и власништва над хардвером, откривајући грешке у меморији и извршавање података током компајлирања.
Инфраструктура која подржава модерну вештачку интелигенцију развија се вртоглавом брзином, и како би пратила корак, NVIDIA је одлучила да значајно инвестира у изворно програмирање у Rust-у . Иако су CUDA C++ и CUDA Python већ успостављени и робусни алати за пословни сектор, индустрија се окреће ка Rust-у због његове способности да елиминише критичне грешке у меморији пре него што се код уопште покрене, без жртвовања сирових перформанси.
Донедавно, Rust се користио у спољним слојевима као што су инференцни механизми или драјвери, али су GPU језгра остала „слепа тачка“ где су програмери морали да прибегавају другим језицима. Доласком CUDA Rust-а, NVIDIA настоји да затвори ову технолошку празнину , омогућавајући програмерима да пишу логику уређаја директно у Rust-у и компајлирају је у PTX, чиме се избегавају гломазни омотачи који су компликовали ток рада.
Два пута до освајања ГПУ-а
Да би се прилагодила различитим потребама програмера, NVIDIA је применила два различита приступа који опонашају свестраност CUDA технологије. С једне стране, ту је SIMT модел, а са друге, Tile модел. Општа препорука је да се почне са Tile приступом , јер компајлер оптимизује начин мапирања података на свакој архитектури, спречавајући програмера да доноси ручне и заморне одлуке о одређеном хардверу.
Потпуна контрола са куда-оксидом (SIMT)
За оне који не желе да се одрекну контроле и којима је потребна прецизност над нитима и дељеном меморијом, ту је cuda-oxide . Овај алат делује као прилагођени бекенд за генерисање кода за rustc. Процес је сложен: функције означене као језгра пролазе кроз Rust-ов MIR, пролазе кроз Pliron framework и LLVM IR, и коначно се конвертују у PTX код који се може извршавати на GPU-у.
Што се тиче техничких захтева, то није баш лак задатак; потребан вам је Linux, GPU са рачунарским могућностима верзије 8.0 или новије и ноћни сет алатаЈедан од драгуља овог система је употреба DisjointSliceтип података који осигурава да свака нит има ексклузивни приступ вашем елементуспречавајући Rust компајлер да блокира код због покушаја прављења некомпатибилних променљивих позајмљивања.
Једноставност и сигурност са cutile-rs (плочице)
Ако више волите нешто слично раду са NumPy или PyTorch, cutile-rs је ваша најбоља опција. Овде не програмирате појединачне нити, већ радите на „плочицама“ или блоковима података. Компилатор одлучује колико је стварних нити потребно за померање тог блока, што чини развој много глаткијим и мање склоним грешкама у индексирању.
За разлику од свог сродног SIMT-а, овај пројекат је приступачнији јер ради на стабилном Rust-у и не захтева ручну LLVM инсталацију. Користи макро који компајлира језгро користећи CUDA Tile IR-ове одмах у тренутку првог покретања (JIT). Бриљантна карактеристика је његово „лење“ управљање операцијама : програм региструје командни стринг и извршава цео скуп само када се позове метод синхронизације, оптимизујући комуникацију између CPU-а и GPU-а.
Магија компајлера: Збогом тркама података
Оно што заиста чини CUDA Rust револуционарним је начин на који рукује меморијом. У традиционалном GPU програмирању, грешке алијасинга (када две нити пишу на исту локацију) су ноћне море које се појављују само у продукцији. Rust решава овај проблем тако што спроводи своја правила власништва на граници издања језгра.
- У SIMT моделу, ако покушате да користите излазни бафер као улаз, компајлер ће избацити грешку. грешка променљивог кредита (Е0502).
- У моделу плочица, својство тензора се преноси и сваки покушај коришћења померене вредности ће проузроковати грешка Е0382.
То значи да је софтвер осигурање за грађевинарствоДок у SIMT-у дељена меморија и даље захтева блокове unsafeМодел плочица елиминише потребу за ручним управљањем индексима нити, уклањајући могућност прављења тих класичних грешака из једначине.
Тренутни статус и будућност пројекта
Важно је остати реалистичан: оба пројекта су у експерименталној фази . cuda-oxide је у раној алфа верзији, док је cutile-rs напреднији и већ се користи у пројектима попут HuggingFace-овог Grout инференцијског механизма. NVIDIA је јасно ставила до знања да се API-ји могу променити и да још увек постоји пут пре него што ови алати буду погодни за масовна производна окружења.
Упркос томе што је нов, овај екосистем коегзистира и сарађује са претходним напорима као што су rust-gpu и CubeCL. Циљ је да Rust постане првокласни језик за убрзано рачунарство, омогућавајући да GPU код буде једнако робустан и одржив као системски код. Могућност интероперабилности између Tile и SIMT језгара у истом току осигурава да програмери нису везани за једну методологију.
Посвећеност компаније NVIDIA интеграцији Rust-а у језгро CUDA-е представља неопходну еволуцију за AI инфраструктуру, померајући безбедност из времена извршавања у време компајлирања. Нудећи путеве за грануларну контролу нити и поједностављену манипулацију тензорима, демократизује приступ екстремним перформансама GPU-а елиминисањем типичне крхкости меморије у C++-у, чиме се уводи ера у којој ефикасност и потпуна безбедност коегзистирају унутар истог бинарног фајла.
Често постављана питања
Која је разлика између куда-оксида и кутиле-рса?
Куда-оксид се фокусира на СИМТ модел за оне којима је потребна потпуна контрола над нитима и меморијом, док кутиле-рс користи модел Тиле за лакше и безбедније управљање затезачима.
Да ли је данас могуће користити CUDA Rust у продукцијским пројектима?
Не препоручује се за производњу јер су оба пројекта експериментална, у раним су фазама и њихови API-ји могу претрпети значајне промене.
Који хардверски захтеви су ми потребни да бих покренуо ове кернеле?
Потребан је NVIDIA GPU са рачунарским капацитетом 8.0 или новијим и коришћење Linux оперативних система.
Како Rust спречава грешке у меморији графичког процесора?
Користи систем власништва и позајмљивања да би открио сукобе алијасинга и извршавање података током компилације, спречавајући покретање небезбедног кода.
Да ли треба да користим ноћну верзију Руста за све?
Само путања cuda-oxide захтева ноћни ланац алата, док је cutile-rs компатибилан са стабилним верзијама Rust-а 1.89 или новијим.
Могу ли мешати језгра различитих модела у истој апликацији?
Да, Tile и SIMT језгра су интероперабилна и могу да раде на истом току користећи дељене бафере уређаја.
Шта је PTX код у контексту CUDA Rust-а?
То је међуасемблерски језик у који се компајлирају Rust језгра како би их GPU драјвер могао ефикасно покренути.




