Pengaturcaraan GPU Induk dengan NVIDIA CUDA Rust

Kemaskini terakhir: 17 November 2026
Pengarang TecnoDigital
  • NVIDIA telah melancarkan inisiatif untuk mengintegrasikan Rust secara asli ke dalam pembangunan kernel GPU, menghapuskan pergantungan pada bahasa lain.
  • Ekosistem ini dibahagikan kepada dua laluan utama: cuda-oksida untuk kawalan penuh melalui SIMT dan cutile-rs untuk pendekatan yang dipermudahkan berdasarkan Tiles.
  • Kedua-dua alat ini memberikan jaminan keselamatan dan pemilikan Rust kepada perkakasan, mengesan ralat memori dan larian data pada masa kompilasi.

Tiga kad grafik NVIDIA GeForce RTX disusun, mewakili perkakasan berprestasi tinggi yang digunakan untuk pengkomputeran CUDA dan AI.

Infrastruktur yang menyokong kecerdasan buatan moden sedang berkembang pada kelajuan yang sangat pantas, dan untuk mengikuti perkembangan semasa, NVIDIA telah memutuskan untuk melabur banyak dalam pengaturcaraan asli dalam Rust . Walaupun CUDA C++ dan CUDA Python telah pun menjadi alat yang mantap dan mantap untuk sektor perusahaan, industri ini beralih ke arah Rust kerana keupayaannya untuk menghapuskan ralat memori kritikal sebelum kod dijalankan, tanpa mengorbankan prestasi mentah.

Sehingga baru-baru ini, Rust telah digunakan dalam lapisan luaran seperti enjin inferens atau pemacu, tetapi kernel GPU kekal sebagai "titik buta" di mana pembangun terpaksa menggunakan bahasa lain. Dengan ketibaan CUDA Rust, NVIDIA berusaha untuk menutup jurang teknologi ini , membolehkan pembangun menulis logik peranti secara langsung dalam Rust dan mengkompilkannya ke PTX, sekali gus mengelakkan pembalut rumit yang merumitkan aliran kerja.

Dua laluan untuk menakluki GPU

Gambaran dekat kad grafik GeForce yang menunjukkan komponen dan litar perkakasan yang kompleks.

Untuk menyesuaikan diri dengan pelbagai keperluan pengaturcara, NVIDIA telah menggunakan dua pendekatan berbeza yang meniru fleksibiliti CUDA. Di satu pihak, terdapat model SIMT, dan di pihak yang lain, model Tile. Cadangan umum adalah untuk bermula dengan pendekatan Tile , kerana pengkompil mengoptimumkan cara data dipetakan merentasi setiap seni bina, menghalang pengaturcara daripada perlu membuat keputusan manual dan membosankan tentang perkakasan tertentu.

Kawalan penuh dengan cuda-oksida (SIMT)

Skrin komputer yang memaparkan kod sumber dengan pilihan pembangunan berbantukan AI, yang menggambarkan kejuruteraan perisian moden.

Bagi mereka yang tidak mahu melepaskan kawalan dan memerlukan ketepatan yang tepat ke atas thread dan memori kongsi, terdapat cuda-oxide . Alat ini bertindak sebagai backend penjanaan kod tersuai untuk rustc. Prosesnya rumit: fungsi yang ditanda sebagai kernel melalui MIR Rust, melalui rangka kerja Pliron dan LLVM IR, dan akhirnya ditukar menjadi kod PTX yang boleh dilaksanakan pada GPU.

  Polimorfisme dalam pengaturcaraan berorientasikan objek

Bagi keperluan teknikal, ia bukanlah sesuatu yang mudah; anda memerlukan Linux, GPU dengan keupayaan pengkomputeran 8.0 atau lebih tinggi, dan set rantai alat setiap malamSalah satu keistimewaan sistem ini ialah penggunaan DisjointSlicejenis data yang memastikan setiap thread mempunyai akses eksklusif kepada elemen andamenghalang pengkompil Rust daripada menyekat kod kerana cuba membuat pinjaman boleh ubah yang tidak serasi.

Kesederhanaan dan keselamatan dengan cutile-rs (Tile)

Gambaran dekat yang abstrak dan terang bagi baris kod pengaturcaraan pelbagai warna pada skrin, melambangkan kecekapan bahasa Rust.

Jika anda lebih suka sesuatu yang lebih seperti bekerja dengan NumPy atau PyTorch, cutile-rs adalah pilihan terbaik anda. Di sini, anda tidak memprogram thread individu, tetapi sebaliknya beroperasi pada "jubin" atau blok data. Pengkompil menentukan berapa banyak thread sebenar yang diperlukan untuk menggerakkan blok tersebut, menjadikan pembangunan lebih lancar dan kurang terdedah kepada ralat pengindeksan.

Tidak seperti saudara kandungnya SIMT, projek ini lebih mudah diakses kerana ia berjalan pada Rust yang stabil dan tidak memerlukan pemasangan LLVM manual. Ia menggunakan makro yang mengkompilasi kernel menggunakan IR Tile CUDA tepat pada masa pelancaran pertama (JIT). Ciri yang cemerlang ialah pengurusan operasi malasnya : program ini mendaftarkan rentetan arahan dan hanya melaksanakan keseluruhan set apabila kaedah penyegerakan dipanggil, mengoptimumkan komunikasi antara CPU dan GPU.

Keajaiban pengkompil: Selamat tinggal kepada Perlumbaan Data

Gambar dekat GPU berprestasi tinggi dengan tiga kipas, menonjolkan penyejukan dan kuasa yang diperlukan untuk beban kerja AI.

Apa yang benar-benar menjadikan CUDA Rust pengubah keadaan adalah cara ia mengendalikan memori. Dalam pengaturcaraan GPU tradisional, ralat aliasing (apabila dua thread menulis ke lokasi yang sama) adalah mimpi ngeri yang hanya muncul dalam pengeluaran. Rust menyelesaikannya dengan menguatkuasakan peraturan pemilikannya di sempadan pelepasan kernel.

  • Dalam model SIMT, jika anda cuba menggunakan penimbal output sebagai input, pengkompil akan memberikan ralat. ralat pinjaman boleh ubah (E0502).
  • Dalam model Tile, sifat tensor dipindahkan, dan sebarang percubaan untuk menggunakan nilai yang dipindahkan akan menyebabkan kesalahan E0382.
  OpenMP: Apakah itu, cara ia berfungsi dan semua yang anda perlu ketahui

Ini bermakna perisian tersebut adalah insurans untuk pembinaanManakala dalam memori kongsi SIMT masih memerlukan blok unsafeModel Tile menghapuskan keperluan untuk mengurus indeks thread secara manual, menghapuskan kemungkinan membuat kesilapan klasik tersebut daripada persamaan.

Status semasa dan masa depan projek

Adalah penting untuk memastikan sesuatu yang realistik: kedua-dua projek berada dalam fasa eksperimen . cuda-oxide berada dalam fasa alfa awal, manakala cutile-rs lebih maju dan telah pun digunakan dalam projek seperti enjin inferens Grout HuggingFace. NVIDIA telah menjelaskan bahawa API mungkin berubah dan masih ada jalan untuk pergi sebelum alat ini sesuai untuk persekitaran pengeluaran besar-besaran.

Walaupun baharu, ekosistem ini wujud bersama dan bekerjasama dengan usaha terdahulu seperti rust-gpu dan CubeCL. Matlamatnya adalah untuk menjadikan Rust bahasa kelas pertama untuk pengkomputeran dipercepatkan, membolehkan kod GPU menjadi semantap dan sekekal kod sistem. Keupayaan untuk beroperasi antara kernel Tile dan SIMT dalam aliran yang sama memastikan pembangun tidak terikat pada satu metodologi sahaja.

Komitmen NVIDIA untuk mengintegrasikan Rust ke dalam teras CUDA mewakili evolusi yang diperlukan untuk infrastruktur AI, mengubah keselamatan daripada masa jalan kepada masa kompilasi. Dengan menawarkan laluan untuk kawalan thread berbutir dan manipulasi tensor yang dipermudahkan, ia mendemokrasikan akses kepada prestasi GPU yang ekstrem dengan menghapuskan kerapuhan memori biasa dalam C++, sekali gus mengantar era di mana kecekapan dan keselamatan menyeluruh wujud bersama dalam binari yang sama.

Soalan yang kerap ditanya

Apakah perbezaan antara cuda-oksida dan cutile-rs?

Cuda-oxide memberi tumpuan kepada model SIMT bagi mereka yang memerlukan kawalan penuh ke atas benang dan memori, manakala cutile-rs menggunakan model Tile untuk mengendalikan penegang dengan lebih mudah dan selamat.

Adakah mungkin untuk menggunakan CUDA Rust dalam projek pengeluaran hari ini?

Ia tidak digalakkan untuk pengeluaran kerana kedua-dua projek ini masih dalam peringkat eksperimen, berada di peringkat awal dan API mereka mungkin mengalami perubahan yang ketara.

Apakah keperluan perkakasan yang saya perlukan untuk menjalankan kernel ini?

GPU NVIDIA dengan keupayaan pengiraan 8.0 atau lebih tinggi dan penggunaan sistem pengendalian Linux diperlukan.

Bagaimanakah Rust mencegah ralat memori GPU?

Ia menggunakan sistem pemilikan dan peminjaman untuk mengesan konflik aliasing dan larian data semasa penyusunan, menghalang kod yang tidak selamat daripada berjalan.

Perlukah saya menggunakan versi Rust setiap malam untuk semuanya?

Hanya laluan cuda-oksida yang memerlukan rantai alat setiap malam, manakala cutile-rs serasi dengan versi stabil Rust 1.89 atau lebih tinggi.

Bolehkah saya mencampurkan kernel model yang berbeza dalam aplikasi yang sama?

Ya, kernel Tile dan SIMT boleh dikendalikan secara saling beroperasi dan boleh dijalankan pada strim yang sama menggunakan penimbal peranti kongsi.

Apakah kod PTX dalam konteks CUDA Rust?

Ia merupakan bahasa pemasangan perantaraan yang digunakan untuk mengkompilasi kernel Rust supaya pemacu GPU dapat menjalankannya dengan cekap.