- NVIDIA запустила ініціативу з нативної інтеграції Rust у розробку ядра GPU, усуваючи залежність від інших мов програмування.
- Екосистема поділена на два основні маршрути: cuda-oxide для повного контролю через SIMT та cutile-rs для спрощеного підходу на основі Tiles.
- Обидва інструменти забезпечують гарантії безпеки та володіння Rust апаратним забезпеченням, виявляючи помилки пам'яті та запуски даних під час компіляції.
Інфраструктура, що підтримує сучасний штучний інтелект, розвивається шаленими темпами, і щоб не відставати, NVIDIA вирішила значно інвестувати в нативне програмування на Rust . Хоча CUDA C++ та CUDA Python вже є усталеними та надійними інструментами для корпоративного сектору, галузь переходить до Rust завдяки його здатності усувати критичні помилки пам'яті ще до запуску коду, не жертвуючи продуктивністю.
Донедавна Rust використовувався в зовнішніх шарах, таких як механізми логічного висновку або драйвери, але ядра графічних процесорів залишалися «сліпою плямою», де розробникам доводилося вдаватися до інших мов програмування. З появою CUDA Rust, NVIDIA прагне заповнити цю технологічну прогалину , дозволяючи розробникам писати логіку пристроїв безпосередньо в Rust та компілювати її в PTX, уникаючи таким чином громіздких обгорток, які ускладнювали робочий процес.
Два шляхи до підкорення GPU
Щоб адаптуватися до різноманітних потреб програмістів, NVIDIA розгорнула два різні підходи, що імітують універсальність CUDA. З одного боку, є модель SIMT, а з іншого – модель Tile. Загальна рекомендація – почати з підходу Tile , оскільки компілятор оптимізує відображення даних на кожній архітектурі, позбавляючи програміста необхідності приймати ручні та виснажливі рішення щодо конкретного обладнання.
Повний контроль за допомогою куда-оксиду (SIMT)
Для тих, хто не хоче відмовлятися від контролю та потребує високої точності над потоками та спільною пам'яттю, існує cuda-oxide . Цей інструмент виконує роль власного бекенду для генерації коду для rustc. Процес складний: функції, позначені як ядра, проходять через MIR Rust, проходять через фреймворк Pliron та LLVM IR, і, нарешті, перетворюються на код PTX, що виконується на графічному процесорі.
Що стосується технічних вимог, то це не зовсім прогулянка парком; вам потрібен Linux, графічний процесор з обчислювальними можливостями версії 8.0 або вище та нічний набір інструментівОднією з перлин цієї системи є використання DisjointSliceтип даних, який гарантує, що кожен потік має ексклюзивний доступ до вашої стихіїзапобігання блокуванню компілятором Rust коду за спроби створення несумісних змінних запозичень.
Простота та безпека з cutile-rs (Tile)
Якщо ви віддаєте перевагу роботі з NumPy або PyTorch, cutile-rs — ваш найкращий варіант. Тут ви не програмуєте окремі потоки, а працюєте з «плитками» або блоками даних. Компілятор вирішує, скільки фактичних потоків потрібно для переміщення цього блоку, що робить розробку набагато плавнішою та менш схильною до помилок індексації.
На відміну від свого аналога SIMT, цей проєкт є доступнішим, оскільки працює на стабільній платформі Rust і не вимагає ручної інсталяції LLVM. Він використовує макрос, який компілює ядро за допомогою CUDA Tile IR одразу під час першого запуску (JIT). Чудовою особливістю є його ліниве керування операціями : програма реєструє командний рядок і виконує весь набір лише тоді, коли викликається метод синхронізації, оптимізуючи зв'язок між процесором і графічним процесором.
Магія компілятора: Прощавай, перегони даних
Що справді робить CUDA Rust революційним, так це те, як він обробляє пам'ять. У традиційному програмуванні на графічних процесорах помилки аліасингу (коли два потоки записують в одне й те саме місце) – це кошмари, які з'являються лише у продакшені. Rust вирішує цю проблему , застосовуючи свої правила володіння на межі випуску ядра.
- У моделі SIMT, якщо ви спробуєте використати вихідний буфер як вхідний, компілятор викличе помилку. помилка змінного кредиту (E0502).
- У моделі Tile властивість тензора передається, і будь-яка спроба використати переміщене значення призведе до помилка E0382.
Це означає, що програмне забезпечення є страхування для будівництваТоді як у SIMT спільна пам'ять все ще вимагає блоків unsafeМодель Tile усуває необхідність керувати індексами потоків вручну, усуваючи можливість допускати ці класичні помилки з рівняння.
Поточний стан та майбутнє проекту
Важливо залишатися реалістом: обидва проекти перебувають на експериментальній фазі . cuda-oxide знаходиться на ранній альфа-версії, тоді як cutile-rs є більш просунутим і вже використовується в таких проектах, як механізм логічного виводу Grout від HuggingFace. NVIDIA чітко дала зрозуміти, що API можуть змінитися , і що ще є час пройти, перш ніж ці інструменти стануть придатними для масових виробничих середовищ.
Незважаючи на свою новизну, ця екосистема співіснує та співпрацює з попередніми розробками, такими як rust-gpu та CubeCL. Мета полягає в тому, щоб зробити Rust першокласною мовою для прискорених обчислень, що дозволить коду GPU бути таким же надійним та зручним у підтримці, як і системний код. Можливість взаємодії між ядрами Tile та SIMT в одному потоці гарантує, що розробники не будуть прив'язані до однієї методології.
Зобов'язання NVIDIA інтегрувати Rust в ядро CUDA являє собою необхідну еволюцію для інфраструктури штучного інтелекту, переносячи безпеку з середовища виконання до часу компіляції. Пропонуючи шляхи як для детального керування потоками, так і для спрощеної маніпуляції тензорами, вона демократизує доступ до надзвичайної продуктивності графічних процесорів, усуваючи типову крихкість пам'яті в C++, тим самим започатковуючи еру, коли ефективність та повна безпека співіснують в одному двійковому файлі.
Часті запитання
Яка різниця між куда-оксидом та кутиле-рсом?
Cuda-oxide зосереджується на моделі SIMT для тих, кому потрібен повний контроль над нитками та пам'яттю, тоді як cutile-rs використовує модель Tile для легшого та безпечнішого керування натягувачами.
Чи можливо використовувати CUDA Rust у продакшн-проектах сьогодні?
Не рекомендується для виробництва, оскільки обидва проекти є експериментальними, перебувають на ранніх стадіях, а їхні API можуть зазнати значних змін.
Які вимоги до обладнання мені потрібні для запуску цих ядер?
Потрібна відеокарта NVIDIA з обчислювальною потужністю версії 8.0 або вище та використання операційних систем Linux.
Як Rust запобігає помилкам пам'яті графічного процесора?
Він використовує систему володіння та запозичення для виявлення конфліктів аліасингу та виконання даних під час компіляції, запобігаючи запуску небезпечного коду.
Чи потрібно мені використовувати нічну версію Rust для всього?
Тільки шлях cuda-oxide вимагає нічного набору інструментів, тоді як cutile-rs сумісний зі стабільними версіями Rust 1.89 або вище.
Чи можна змішувати ядра різних моделей в одній програмі?
Так, ядра Tile та SIMT є сумісними та можуть працювати в одному потоці, використовуючи спільні буфери пристроїв.
Що таке PTX-код у контексті CUDA Rust?
Це проміжна мова асемблера, на яку компілюються ядра Rust, щоб драйвер графічного процесора міг їх ефективно запускати.




