- NVIDIA, Rust'ı GPU çekirdek geliştirme sürecine yerel olarak entegre etme ve diğer dillere olan bağımlılığı ortadan kaldırma girişimini başlattı.
- Ekosistem iki ana yola ayrılmıştır: SIMT aracılığıyla tam kontrol sağlayan cuda-oxide ve Tiles tabanlı basitleştirilmiş bir yaklaşım sunan cutile-rs.
- Her iki araç da Rust'ın güvenlik ve sahiplik garantilerini donanıma taşıyarak, derleme zamanında bellek hatalarını ve veri aktarımlarını tespit eder.
Modern yapay zekayı destekleyen altyapı baş döndürücü bir hızla gelişiyor ve bu hıza ayak uydurmak için NVIDIA, Rust'ta yerel programlamaya büyük yatırım yapmaya karar verdi. CUDA C++ ve CUDA Python, kurumsal sektör için zaten yerleşik ve sağlam araçlar olsa da, sektör , ham performanstan ödün vermeden kod çalışmadan önce kritik bellek hatalarını ortadan kaldırma yeteneği nedeniyle Rust'a doğru kayıyor .
Yakın zamana kadar Rust, çıkarım motorları veya sürücüler gibi harici katmanlarda kullanılıyordu, ancak GPU çekirdekleri geliştiricilerin diğer dillere başvurmak zorunda kaldığı "kör nokta" olarak kalıyordu. CUDA Rust'ın gelişiyle NVIDIA, geliştiricilerin cihaz mantığını doğrudan Rust'ta yazmalarına ve PTX'e derlemelerine olanak tanıyarak, iş akışını karmaşıklaştıran hantal sarmalayıcılardan kaçınmalarını sağlayarak bu teknolojik açığı kapatmayı hedefliyor.
GPU'yu fethetmenin iki yolu
Programcıların çeşitli ihtiyaçlarına uyum sağlamak için NVIDIA, CUDA'nın çok yönlülüğünü taklit eden iki farklı yaklaşım geliştirdi. Bunlardan biri SIMT modeli, diğeri ise Tile modelidir. Genel öneri, Tile yaklaşımıyla başlamaktır , çünkü derleyici verilerin her mimariye nasıl eşlendiğini optimize ederek programcının belirli donanımlar hakkında manuel ve zahmetli kararlar vermesini engeller.
Cuda-oksit (SIMT) ile tam kontrol
Kontrolü bırakmak istemeyen ve iş parçacıkları ve paylaşımlı bellek üzerinde hassas doğruluk isteyenler için cuda-oxide var . Bu araç, rustc için özel bir kod oluşturma arka ucu görevi görüyor. Süreç karmaşık: çekirdek olarak işaretlenen fonksiyonlar Rust'ın MIR'inden geçiyor, Pliron çerçevesinden ve LLVM IR'den geçiyor ve sonunda GPU'da çalıştırılabilir PTX koduna dönüştürülüyor .
Teknik gereksinimlere gelince, işler hiç de kolay değil; Linux, 8.0 veya üzeri işlem gücüne sahip bir GPU ve bir araç zinciri gece ayarıBu sistemin en değerli özelliklerinden biri de şu kullanımda yatıyor: DisjointSliceHer iş parçacığının sahip olmasını sağlayan bir veri türü Elementinize özel erişimBu, Rust derleyicisinin uyumsuz değiştirilebilir ödünç alma girişimleri nedeniyle kodu engellemesini önler.
cutile-rs (Karo) ile sadelik ve güvenlik.
Eğer NumPy veya PyTorch ile çalışmaya benzer bir şey tercih ediyorsanız, cutile-rs en iyi seçeneğinizdir. Burada, tek tek iş parçacıkları programlamak yerine, "karolar" veya veri blokları üzerinde işlem yaparsınız. Derleyici, bu bloğu taşımak için kaç gerçek iş parçacığına ihtiyaç duyulduğuna karar verir; bu da geliştirmeyi çok daha sorunsuz ve indeksleme hatalarına daha az eğilimli hale getirir.
Kardeşi SIMT'nin aksine, bu proje kararlı Rust üzerinde çalıştığı ve manuel LLVM kurulumu gerektirmediği için daha erişilebilirdir . Çekirdeği ilk çalıştırma anında (JIT) CUDA Tile IR'leri kullanarak derleyen bir makro kullanır. Parlak bir özelliği ise tembel işlem yönetimidir : program bir komut dizisi kaydeder ve yalnızca senkronizasyon yöntemi çağrıldığında tüm kümeyi yürütür, böylece CPU ve GPU arasındaki iletişimi optimize eder.
Derleyicinin büyüsü: Veri yarışlarına veda
CUDA Rust'ı gerçekten çığır açan şey, bellek yönetimi şeklidir. Geleneksel GPU programlamasında, takma adlandırma hataları (iki iş parçacığının aynı konuma yazması) yalnızca üretim ortamında ortaya çıkan kabuslardır. Rust, sahiplik kurallarını çekirdek sürüm sınırında uygulayarak bu sorunu çözer.
- SIMT modelinde, çıktı arabelleğini girdi olarak kullanmaya çalışırsanız, derleyici hata verecektir. değiştirilebilir kredi hatası (E0502).
- Karo modelinde, tensör özelliği aktarılır ve taşınan bir değeri kullanma girişiminde bulunmak hataya neden olur. hata E0382.
Bu, yazılımın şu anlama geldiği demektir: inşaat sigortasıSIMT'de paylaşımlı bellek hala bloklara ihtiyaç duyarken unsafeKaro modeli, iş parçacığı indekslerini manuel olarak yönetme ihtiyacını ortadan kaldırarak, bu klasik hataların yapılma olasılığını ortadan kaldırır.
Projenin mevcut durumu ve geleceği
Gerçekçi olmak önemli: Her iki proje de deneysel aşamada . cuda-oxide henüz alfa aşamasındayken, cutile-rs daha gelişmiş durumda ve HuggingFace'in Grout çıkarım motoru gibi projelerde zaten kullanılıyor. NVIDIA, API'lerin değişebileceğini ve bu araçların büyük ölçekli üretim ortamları için uygun hale gelmesi için daha çok yol olduğunu açıkça belirtti.
Yeni olmasına rağmen, bu ekosistem rust-gpu ve CubeCL gibi önceki çalışmalarla birlikte var oluyor ve iş birliği yapıyor. Amaç, Rust'ı hızlandırılmış hesaplama için birinci sınıf bir dil haline getirmek ve GPU kodunun sistem kodu kadar sağlam ve bakımı kolay olmasını sağlamaktır. Aynı akışta Tile ve SIMT çekirdekleri arasında birlikte çalışabilme yeteneği, geliştiricilerin tek bir metodolojiye kilitlenmemesini sağlar.
NVIDIA'nın Rust'ı CUDA'nın çekirdeğine entegre etme taahhüdü, yapay zeka altyapısı için gerekli bir evrimi temsil ediyor ve güvenliği çalışma zamanından derleme zamanına kaydırıyor. Hem ayrıntılı iş parçacığı kontrolü hem de basitleştirilmiş tensör manipülasyonu için yollar sunarak, C++'daki tipik bellek kırılganlığını ortadan kaldırarak GPU'ların olağanüstü performansına erişimi demokratikleştiriyor ve böylece verimlilik ve tam güvenliğin aynı ikili dosya içinde bir arada bulunduğu bir dönemi başlatıyor.
Sık sorulan sorular
Cuda-oxide ve Cutile-RS arasındaki fark nedir?
Cuda-oxide, dişler ve hafıza üzerinde tam kontrol isteyenler için SIMT modeline odaklanırken, cutile-rs ise gergi mekanizmalarını daha kolay ve güvenli bir şekilde çalıştırmak için Tile modelini kullanıyor.
Günümüzde CUDA Rust'ı üretim projelerinde kullanmak mümkün mü?
Her iki proje de deneysel ve erken aşamalarda olduğundan ve API'lerinde önemli değişiklikler olabileceğinden, üretim ortamında kullanılması önerilmez.
Bu çekirdekleri çalıştırmak için hangi donanım gereksinimlerine ihtiyacım var?
NVIDIA GPU'nun 8.0 veya üzeri işlem gücüne sahip olması ve Linux işletim sisteminin kullanılması gerekmektedir.
Rust, GPU bellek hatalarını nasıl önler?
Derleme sırasında takma ad çakışmalarını ve veri çalıştırmalarını tespit etmek için sahiplik ve ödünç alma sistemini kullanır ve güvenli olmayan kodun çalışmasını engeller.
Her şey için Rust'ın gece sürümünü kullanmam gerekiyor mu?
Sadece cuda-oxide yolu nightly toolchain gerektirirken, cutile-rs Rust 1.89 veya üzeri kararlı sürümlerle uyumludur.
Aynı uygulamada farklı modellere ait çekirdekleri bir arada kullanabilir miyim?
Evet, Tile ve SIMT çekirdekleri birlikte çalışabilir ve paylaşılan aygıt tamponlarını kullanarak aynı akış üzerinde çalışabilirler.
CUDA Rust bağlamında PTX kodu nedir?
Rust çekirdeklerinin GPU sürücüsü tarafından verimli bir şekilde çalıştırılabilmesi için derlendiği ara derleme dilidir.




