- NVIDIAは、GPUカーネル開発にRustをネイティブに統合し、他の言語への依存を排除する取り組みを開始した。
- このエコシステムは、SIMTによる完全制御を行うcuda-oxideと、タイルに基づいた簡略化されたアプローチを行うcutile-rsという2つの主要なルートに分かれています。
- どちらのツールも、Rustのセキュリティと所有権の保証をハードウェアにもたらし、コンパイル時にメモリエラーやデータ実行を検出します。
現代の人工知能を支えるインフラは驚異的なスピードで進化しており、NVIDIAはそれに追いつくため、Rustによるネイティブプログラミングに多額の投資を行うことを決定しました。CUDA C++とCUDA Pythonは既に企業向けツールとして確立され、堅牢な性能を誇っていますが、Rustはコード実行前に重大なメモリエラーを排除できる能力を持ち、かつパフォーマンスを犠牲にすることなく処理を実行できるため、業界はRustへと移行しつつあります。
ごく最近まで、Rustは推論エンジンやドライバなどの外部レイヤーで使用されていましたが、GPUカーネルは開発者が他の言語に頼らざるを得ない「盲点」でした。CUDA Rustの登場により、NVIDIAはこの技術的なギャップを埋め、開発者がデバイスロジックをRustで直接記述してPTXにコンパイルできるようにすることで、ワークフローを複雑にしていた煩雑なラッパーを回避できるようにすることを目指しています。
GPUを攻略する2つの方法
プログラマーの多様なニーズに対応するため、NVIDIAはCUDAの汎用性を模倣した2つの異なるアプローチを採用しています。一つはSIMTモデル、もう一つはタイルモデルです。一般的にはタイルモデルから始めることをお勧めします。コンパイラが各アーキテクチャ間でデータのマッピングを最適化するため、プログラマーは特定のハードウェアについて手動で面倒な決定を下す必要がなくなります。
CUDA酸化物(SIMT)による完全制御
スレッドや共有メモリの制御を厳密に管理したい、あるいは制御を手放したくないという方には、cuda-oxideがあります。このツールは、rustc 用のカスタムコード生成バックエンドとして機能します。そのプロセスは複雑で、カーネルとしてマークされた関数は Rust の MIR を通過し、Pliron フレームワークと LLVM IR を通過した後、最終的にGPU 上で実行可能なPTX コードに変換されます。
技術的な要件に関しては、決して簡単ではありません。Linux、演算能力が8.0以上のGPU、そして ツールチェーンのナイトリーセットこのシステムの優れた点の1つは、 DisjointSlice各スレッドが あなただけのエレメントへの独占アクセスRustコンパイラが、互換性のない可変借用を行おうとしたコードをブロックするのを防ぐ。
cutile-rs(タイル)でシンプルさと安全性を実現
NumPyやPyTorchのようなライブラリを使いたい場合は、cutil-rsが最適です。cutil-rsでは、個々のスレッドをプログラミングするのではなく、「タイル」と呼ばれるデータブロックを操作します。コンパイラがそのブロックを移動するために必要な実際のスレッド数を決定するため、開発がはるかにスムーズになり、インデックスエラーも発生しにくくなります。
姉妹プロジェクトであるSIMTとは異なり、このプロジェクトは安定版Rust上で動作し、LLVMの手動インストールが不要なため、よりアクセスしやすいものとなっています。CUDA Tile IRを使用してカーネルを初回起動時(JIT)にコンパイルするマクロを採用しています。特筆すべき機能は、遅延実行管理です。プログラムはコマンド文字列を登録し、同期メソッドが呼び出されたときにのみその文字列全体を実行するため、CPUとGPU間の通信が最適化されます。
コンパイラの魔法:データ競合にさよなら
CUDA Rustを真に革新的なものにしているのは、そのメモリの扱い方です。従来のGPUプログラミングでは、エイリアシングエラー(2つのスレッドが同じ場所に書き込むこと)は、本番環境でしか発生しない悪夢のような問題でした。Rustは、カーネルのリリース境界で所有権ルールを適用することで、この問題を解決します。
- SIMTモデルでは、出力バッファを入力として使用しようとすると、コンパイラはエラーを発生させます。 可変ローンエラー (E0502)。
- タイルモデルでは、テンソルプロパティが転送され、移動された値を使用しようとすると、 エラーE0382.
これは、ソフトウェアが 建設保険一方、SIMTでは共有メモリは依然としてブロックを必要とする。 unsafeタイルモデルでは、スレッドインデックスを手動で管理する必要がなくなり、よくあるミスを犯す可能性がなくなります。
プロジェクトの現状と今後の展望
現実的な視点を持つことが重要です。どちらのプロジェクトもまだ実験段階にあります。cuda-oxideは初期アルファ版ですが、cutile-rsはより開発が進んでおり、HuggingFaceのGrout推論エンジンなどのプロジェクトですでに使用されています。NVIDIAは、APIが変更される可能性があり、これらのツールが大規模な本番環境に適したものになるまでにはまだ時間がかかることを明確にしています。
このエコシステムは比較的新しいものの、rust-gpuやCubeCLといった既存の取り組みと共存し、連携しています。目標は、Rustを高速コンピューティングのための第一級言語とし、GPUコードがシステムコードと同等の堅牢性と保守性を備えるようにすることです。同じストリーム内でTileカーネルとSIMTカーネルを相互運用できる機能により、開発者は単一の手法に縛られることなく開発を進めることができます。
NVIDIAがRustをCUDAの中核に統合するという取り組みは、AIインフラストラクチャにとって不可欠な進化であり、セキュリティをランタイムからコンパイル時へと移行させるものです。きめ細かなスレッド制御と簡素化されたテンソル操作の両方を可能にすることで、C++にありがちなメモリの脆弱性を排除し、GPUの極めて高いパフォーマンスへのアクセスを民主化します。これにより、効率性と完全なセキュリティが同じバイナリ内で共存する時代が到来します。
よくある質問
cuda-oxideとcutile-rsの違いは何ですか?
Cuda-oxideは、スレッドとメモリを完全に制御する必要があるユーザー向けにSIMTモデルに重点を置いており、一方、cutile-rsは、テンショナーをより簡単かつ安全に操作するためにTileモデルを使用しています。
現在、実稼働プロジェクトでCUDA Rustを使用することは可能でしょうか?
両プロジェクトとも実験段階であり、開発初期段階にあるため、本番環境での使用は推奨されません。また、APIが大幅に変更される可能性もあります。
これらのカーネルを実行するために必要なハードウェア要件は何ですか?
演算能力8.0以上のNVIDIA製GPUとLinuxオペレーティングシステムが必要です。
RustはどのようにしてGPUメモリエラーを防ぐのですか?
所有権と借用システムを利用して、コンパイル中にエイリアシングの競合やデータ実行を検出し、安全でないコードの実行を防ぎます。
すべての作業にRustのナイトリービルド版を使用する必要があるのでしょうか?
cuda-oxide パスのみがナイトリーツールチェーンを必要としますが、cutile-rs は Rust 1.89 以降の安定版と互換性があります。
異なるモデルのカーネルを同じアプリケーション内で混在させることはできますか?
はい、TileカーネルとSIMTカーネルは相互運用可能であり、共有デバイスバッファを使用して同じストリーム上で実行できます。
CUDA Rustの文脈におけるPTXコードとは何ですか?
これは、GPUドライバがRustカーネルを効率的に実行できるように、Rustカーネルがコンパイルされる中間アセンブリ言語です。




