- NVIDIA a lancé une initiative visant à intégrer nativement Rust dans le développement du noyau GPU, éliminant ainsi la dépendance à d'autres langages.
- L'écosystème est divisé en deux voies principales : cuda-oxide pour un contrôle total via SIMT et cutile-rs pour une approche simplifiée basée sur Tiles.
- Ces deux outils apportent les garanties de sécurité et de propriété de Rust au matériel, en détectant les erreurs de mémoire et les exécutions de données au moment de la compilation.
L'infrastructure qui sous-tend l'intelligence artificielle moderne évolue à une vitesse fulgurante, et pour rester compétitive, NVIDIA a décidé d'investir massivement dans la programmation native en Rust . Si CUDA C++ et CUDA Python sont déjà des outils robustes et éprouvés pour le secteur des entreprises, l'industrie se tourne de plus en plus vers Rust en raison de sa capacité à éliminer les erreurs de mémoire critiques avant même l'exécution du code, sans compromettre les performances brutes.
Jusqu'à très récemment, Rust était utilisé dans les couches externes telles que les moteurs d'inférence ou les pilotes, mais les noyaux GPU restaient le point faible, obligeant les développeurs à recourir à d'autres langages. Avec l'arrivée de CUDA Rust, NVIDIA entend combler cette lacune technologique , permettant aux développeurs d'écrire la logique du périphérique directement en Rust et de la compiler en PTX, évitant ainsi les interfaces complexes qui compliquaient le flux de travail.
Les deux voies pour conquérir le GPU
Pour répondre aux besoins variés des programmeurs, NVIDIA a déployé deux approches différentes qui reproduisent la polyvalence de CUDA. D'une part, le modèle SIMT, et d'autre part, le modèle Tile. Il est généralement recommandé de commencer par l'approche Tile , car le compilateur optimise la répartition des données sur chaque architecture, évitant ainsi au programmeur d'avoir à prendre des décisions manuelles et fastidieuses concernant le matériel spécifique.
Contrôle total avec cuda-oxide (SIMT)
Pour ceux qui souhaitent garder le contrôle et ont besoin d'une précision extrême sur les threads et la mémoire partagée, il existe cuda-oxide . Cet outil sert de moteur de génération de code personnalisé pour rustc. Le processus est complexe : les fonctions marquées comme kernels sont traitées par le MIR de Rust, puis par le framework Pliron et l'IR de LLVM, avant d'être finalement converties en code PTX exécutable sur le GPU.
Quant aux exigences techniques, ce n'est pas une mince affaire ; il vous faut Linux, une carte graphique avec une puissance de calcul de 8.0 ou supérieure, et un ensemble nocturne de la chaîne d'outilsL'un des joyaux de ce système est l'utilisation de DisjointSliceun type de données qui garantit que chaque thread possède accès exclusif à votre élémentempêcher le compilateur Rust de bloquer le code qui tente d'effectuer des emprunts mutables incompatibles.
Simplicité et sécurité avec cutile-rs (Tile)
Si vous préférez une approche similaire à celle de NumPy ou PyTorch, cutile-rs est la solution idéale. Ici, vous ne programmez pas de threads individuels, mais travaillez plutôt sur des « tuiles » ou blocs de données. Le compilateur détermine le nombre de threads nécessaires pour déplacer chaque bloc, ce qui fluidifie considérablement le développement et réduit les risques d' erreurs d'indexation.
Contrairement à son homologue SIMT, ce projet est plus accessible car il fonctionne avec une version stable de Rust et ne nécessite pas d'installation manuelle de LLVM. Il utilise une macro qui compile le noyau à l'aide des IR CUDA Tile dès le premier lancement (JIT). Une de ses caractéristiques les plus remarquables est sa gestion paresseuse des opérations : le programme enregistre une chaîne de commandes et n'exécute l'ensemble des instructions que lorsque la méthode de synchronisation est invoquée, optimisant ainsi la communication entre le CPU et le GPU.
La magie du compilateur : adieu aux conflits d’accès aux données
Ce qui fait de CUDA Rust une véritable révolution, c'est sa gestion de la mémoire. En programmation GPU traditionnelle, les erreurs d'aliasing (lorsque deux threads écrivent au même emplacement) sont un cauchemar qui n'apparaît qu'en production. Rust résout ce problème en appliquant ses règles de propriété à la limite de la version du noyau.
- Dans le modèle SIMT, si vous essayez d'utiliser le tampon de sortie comme entrée, le compilateur générera une erreur. erreur de prêt modifiable (E0502).
- Dans le modèle Tile, la propriété tensorielle est transférée, et toute tentative d'utilisation d'une valeur déplacée entraînera une erreur. erreur E0382.
Cela signifie que le logiciel est assurance pour la constructionAlors que dans SIMT, la mémoire partagée nécessite toujours des blocs unsafeLe modèle Tile élimine la nécessité de gérer manuellement les index des threads, supprimant ainsi la possibilité de commettre ces erreurs classiques.
État actuel et avenir du projet
Il est important de rester réaliste : les deux projets sont en phase expérimentale . cuda-oxide est en version alpha, tandis que cutile-rs est plus avancé et est déjà utilisé dans des projets comme le moteur d'inférence Grout de Hugging Face. NVIDIA a clairement indiqué que les API sont susceptibles d'évoluer et que des progrès restent à faire avant que ces outils ne soient adaptés aux environnements de production à grande échelle.
Bien que récent, cet écosystème coexiste et collabore avec des initiatives antérieures telles que rust-gpu et CubeCL. L'objectif est de faire de Rust un langage de premier plan pour le calcul accéléré, permettant ainsi au code GPU d'être aussi robuste et maintenable que le code système. L'interopérabilité entre les noyaux Tile et SIMT au sein d'un même flux garantit aux développeurs une plus grande flexibilité.
L'engagement de NVIDIA à intégrer Rust au cœur de CUDA représente une évolution essentielle pour l'infrastructure d'IA, déplaçant la sécurité de l'exécution à la compilation. En offrant des voies d'accès pour un contrôle précis des threads et une manipulation simplifiée des tenseurs, il démocratise l'accès aux performances extrêmes des GPU en éliminant la fragilité mémoire typique du C++, inaugurant ainsi une ère où efficacité et sécurité totale coexistent au sein d'un même binaire.
Questions fréquentes
Quelle est la différence entre l'oxyde de cuda et les cuticules ?
Cuda-oxide se concentre sur le modèle SIMT pour ceux qui ont besoin d'un contrôle total sur les fils et la mémoire, tandis que cutile-rs utilise le modèle Tile pour actionner les tendeurs plus facilement et en toute sécurité.
Est-il possible d'utiliser CUDA Rust dans des projets de production aujourd'hui ?
Leur utilisation en production n'est pas recommandée car les deux projets sont expérimentaux, à un stade préliminaire, et leurs API pourraient subir des modifications importantes.
De quelle configuration matérielle ai-je besoin pour exécuter ces noyaux ?
Une carte graphique NVIDIA avec une capacité de calcul de 8.0 ou supérieure et l'utilisation d'un système d'exploitation Linux sont requises.
Comment Rust prévient-il les erreurs de mémoire GPU ?
Il utilise le système de propriété et d'emprunt pour détecter les conflits d'alias et les exécutions de données lors de la compilation, empêchant ainsi l'exécution de code non sécurisé.
Dois-je utiliser une version nightly de Rust pour tout ?
Seul le chemin cuda-oxide nécessite une chaîne d'outils nightly, tandis que cutile-rs est compatible avec les versions stables de Rust 1.89 ou supérieures.
Puis-je mélanger des noyaux de modèles différents dans la même application ?
Oui, les noyaux Tile et SIMT sont interopérables et peuvent s'exécuter sur le même flux en utilisant des tampons de périphérique partagés.
Qu'est-ce que le code PTX dans le contexte de CUDA Rust ?
Il s'agit du langage d'assemblage intermédiaire dans lequel les noyaux Rust sont compilés afin que le pilote GPU puisse les exécuter efficacement.




