- NVIDIA стартира инициатива за нативно интегриране на Rust в разработката на ядрото на графичния процесор, елиминирайки зависимостта от други езици за програмиране.
- Екосистемата е разделена на два основни маршрута: cuda-oxide за пълен контрол чрез SIMT и cutile-rs за опростен подход, базиран на Tiles.
- И двата инструмента предоставят гаранциите за сигурност и собственост на Rust на хардуера, като откриват грешки в паметта и изпълнения на данни по време на компилация.
Инфраструктурата, поддържаща съвременния изкуствен интелект, се развива с главоломна скорост и за да е в крак с това, NVIDIA реши да инвестира сериозно в програмиране на езика Rust . Докато CUDA C++ и CUDA Python вече са утвърдени и надеждни инструменти за корпоративния сектор, индустрията се насочва към Rust поради способността му да елиминира критични грешки в паметта, преди кодът дори да се изпълни, без да се жертва суровата производителност.
До съвсем скоро Rust се използваше във външни слоеве, като например двигатели за извод или драйвери, но ядрата на графичния процесор (GPU) оставаха „сляпото петно“, където разработчиците трябваше да прибягват до други езици за програмиране. С появата на CUDA Rust, NVIDIA се стреми да затвори тази технологична празнина , позволявайки на разработчиците да пишат логика на устройството директно в Rust и да я компилират в PTX, като по този начин избягват тромавите обвивки, които усложняваха работния процес.
Двата пътя за завладяване на графичния процесор
За да се адаптира към разнообразните нужди на програмистите, NVIDIA е внедрила два различни подхода, които имитират гъвкавостта на CUDA. От една страна, има SIMT модел, а от друга, Tile модел. Общата препоръка е да се започне с Tile подхода , тъй като компилаторът оптимизира начина, по който данните се картографират във всяка архитектура, предотвратявайки необходимостта програмистът да взема ръчни и досадни решения относно специфичен хардуер.
Пълен контрол с куда-оксид (SIMT)
За тези, които не искат да се откажат от контрол и се нуждаят от изключителна точност върху нишките и споделената памет, има cuda-oxide . Този инструмент действа като персонализиран бекенд за генериране на код за rustc. Процесът е сложен: функциите, маркирани като ядра, преминават през MIR на Rust, преминават през рамката Pliron и LLVM IR и накрая се конвертират в PTX код, изпълним на графичния процесор.
Що се отнася до техническите изисквания, не е съвсем лесно; имате нужда от Linux, графичен процесор с изчислителни възможности 8.0 или по-висока версия и... нощен комплект инструментиЕдно от бижутата на тази система е използването на DisjointSliceтип данни, който гарантира, че всяка нишка има ексклузивен достъп до вашата стихияпредотвратяване на блокирането на кода от компилатора на Rust при опит за създаване на несъвместими променливи заемки.
Простота и сигурност с cutile-rs (Tile)
Ако предпочитате нещо по-скоро като работа с NumPy или PyTorch, cutile-rs е най-добрият ви вариант. Тук не програмирате отделни нишки, а по-скоро работите с „плочки“ или блокове от данни. Компилаторът решава колко действителни нишки са необходими за преместване на този блок, което прави разработката много по-гладка и по-малко податлива на грешки при индексиране.
За разлика от своя брат SIMT, този проект е по-достъпен, тъй като работи на стабилна Rust и не изисква ръчна инсталация на LLVM. Той използва макрос, който компилира ядрото с помощта на CUDA Tile IRs още в момента на първото стартиране (JIT). Брилянтна функция е неговото „лениво“ управление на операциите : програмата регистрира команден низ и изпълнява целия набор само когато се извика методът за синхронизация, оптимизирайки комуникацията между процесора и графичния процесор.
Магията на компилатора: Сбогом на състезанията за данни
Това, което наистина прави CUDA Rust революционен, е начинът, по който се справя с паметта. В традиционното GPU програмиране, грешките при алиасинг (когато две нишки пишат на едно и също място) са кошмари, които се появяват само в производствения режим. Rust решава това , като налага правилата си за собственост на границата на пускането на ядрото.
- В SIMT модела, ако се опитате да използвате изходния буфер като вход, компилаторът ще генерира грешка. грешка при променлив заем (E0502).
- В модела Tile, свойството tensor се прехвърля и всеки опит за използване на преместена стойност ще доведе до грешка E0382.
Това означава, че софтуерът е застраховка за строителствоДокато в SIMT споделената памет все още изисква блокове unsafeМоделът Tile елиминира необходимостта от ръчно управление на индексите на нишките, премахвайки възможността за допускане на тези класически грешки от уравнението.
Текущо състояние и бъдеще на проекта
Важно е да се запази реализъм: и двата проекта са в експериментална фаза . cuda-oxide е в ранна алфа версия, докато cutile-rs е по-напреднал и вече се използва в проекти като Grout inference engine на HuggingFace. NVIDIA ясно заяви, че API-тата може да се променят и че все още има път, преди тези инструменти да станат подходящи за масивни производствени среди.
Въпреки че е нова, тази екосистема съществува едновременно и си сътрудничи с предишни проекти като rust-gpu и CubeCL. Целта е Rust да се превърне в първокласен език за ускорени изчисления, позволявайки GPU кодът да бъде толкова стабилен и лесен за поддръжка, колкото системния код. Възможността за взаимодействие между Tile и SIMT ядра в един и същ поток гарантира, че разработчиците не са обвързани с една-единствена методология.
Ангажиментът на NVIDIA за интегриране на Rust в ядрото на CUDA представлява необходима еволюция за AI инфраструктурата, измествайки сигурността от времето на изпълнение към времето на компилация. Като предлага пътища както за гранулиран контрол на нишките, така и за опростена манипулация на тензори, тя демократизира достъпа до изключителната производителност на графичните процесори, като елиминира типичната за C++ крехкост на паметта, като по този начин въвежда ера, в която ефективността и пълната сигурност съществуват едновременно в един и същ двоичен файл.
Често задавани въпроси
Каква е разликата между куда-оксид и кутиле-рс?
Cuda-oxide се фокусира върху SIMT модела за тези, които се нуждаят от пълен контрол върху нишките и паметта, докато cutile-rs използва модела Tile, за да управлява обтегачите по-лесно и безопасно.
Възможно ли е да се използва CUDA Rust в производствени проекти днес?
Не се препоръчва за производство, тъй като и двата проекта са експериментални, в ранен етап са и техните API-та може да претърпят значителни промени.
Какви хардуерни изисквания са ми необходими, за да стартирам тези ядра?
Изисква се NVIDIA GPU с изчислителна мощност 8.0 или по-висока версия и използване на операционни системи Linux.
Как Rust предотвратява грешки в паметта на графичния процесор?
Той използва системата за собственост и заемане, за да открива конфликти при алиасинг и изпълнения на данни по време на компилация, предотвратявайки изпълнението на опасен код.
Трябва ли да използвам нощна версия на Rust за всичко?
Само пътят cuda-oxide изисква нощен набор от инструменти, докато cutile-rs е съвместим със стабилни версии на Rust 1.89 или по-нови.
Мога ли да смесвам ядра от различни модели в едно и също приложение?
Да, ядрата Tile и SIMT са оперативно съвместими и могат да работят в един и същ поток, използвайки споделени буфери на устройствата.
Какво е PTX код в контекста на CUDA Rust?
Това е междинният асемблерен език, на който се компилират Rust ядра, така че драйверът на графичния процесор да може да ги изпълнява ефективно.




