- Η NVIDIA ξεκίνησε μια πρωτοβουλία για την εγγενή ενσωμάτωση του Rust στην ανάπτυξη του πυρήνα της GPU, εξαλείφοντας την εξάρτηση από άλλες γλώσσες.
- Το οικοσύστημα χωρίζεται σε δύο κύριες οδούς: το οξείδιο του cuda για τον πλήρη έλεγχο μέσω SIMT και το cutile-rs για μια απλοποιημένη προσέγγιση που βασίζεται σε πλακίδια.
- Και τα δύο εργαλεία προσφέρουν τις εγγυήσεις ασφάλειας και ιδιοκτησίας της Rust στο υλικό, ανιχνεύοντας σφάλματα μνήμης και εκτελέσεις δεδομένων κατά τη στιγμή της μεταγλώττισης.
Η υποδομή που υποστηρίζει τη σύγχρονη τεχνητή νοημοσύνη εξελίσσεται με ιλιγγιώδη ταχύτητα και, για να συμβαδίσει, η NVIDIA αποφάσισε να επενδύσει σημαντικά στον εγγενή προγραμματισμό στο Rust . Ενώ η CUDA C++ και η CUDA Python είναι ήδη καθιερωμένα και ισχυρά εργαλεία για τον επιχειρηματικό τομέα, ο κλάδος στρέφεται προς το Rust λόγω της ικανότητάς του να εξαλείφει κρίσιμα σφάλματα μνήμης πριν καν εκτελεστεί ο κώδικας, χωρίς να θυσιάζει την ακατέργαστη απόδοση.
Μέχρι πολύ πρόσφατα, η Rust χρησιμοποιούνταν σε εξωτερικά επίπεδα όπως μηχανές συμπερασμάτων ή προγράμματα οδήγησης, αλλά οι πυρήνες της GPU παρέμεναν το «τυφλό σημείο» όπου οι προγραμματιστές έπρεπε να καταφύγουν σε άλλες γλώσσες. Με την άφιξη της CUDA Rust, η NVIDIA επιδιώκει να κλείσει αυτό το τεχνολογικό κενό , επιτρέποντας στους προγραμματιστές να γράφουν τη λογική των συσκευών απευθείας στη Rust και να τη μεταγλωττίζουν σε PTX, αποφεύγοντας έτσι τα δυσκίνητα περιτυλίγματα που περιέπλεκαν τη ροή εργασίας.
Οι δύο δρόμοι για την κατάκτηση της GPU
Για να προσαρμοστεί στις ποικίλες ανάγκες των προγραμματιστών, η NVIDIA έχει αναπτύξει δύο διαφορετικές προσεγγίσεις που μιμούνται την ευελιξία του CUDA. Από τη μία πλευρά, υπάρχει το μοντέλο SIMT και από την άλλη, το μοντέλο Tile. Η γενική σύσταση είναι να ξεκινήσετε με την προσέγγιση Tile , καθώς ο μεταγλωττιστής βελτιστοποιεί τον τρόπο αντιστοίχισης των δεδομένων σε κάθε αρχιτεκτονική, αποτρέποντας τον προγραμματιστή από το να χρειάζεται να λαμβάνει χειροκίνητες και κουραστικές αποφάσεις σχετικά με συγκεκριμένο υλικό.
Πλήρης έλεγχος με οξείδιο του cuda (SIMT)
Για όσους δεν θέλουν να εγκαταλείψουν τον έλεγχο και χρειάζονται απόλυτη ακρίβεια σε threads και κοινόχρηστη μνήμη, υπάρχει το cuda-oxide . Αυτό το εργαλείο λειτουργεί ως backend δημιουργίας προσαρμοσμένου κώδικα για το rustc. Η διαδικασία είναι περίπλοκη: οι συναρτήσεις που επισημαίνονται ως πυρήνες περνούν από το MIR του Rust, περνούν από το framework Pliron και το LLVM IR και τελικά μετατρέπονται σε εκτελέσιμο κώδικα PTX στην GPU.
Όσο για τις τεχνικές απαιτήσεις, δεν είναι ακριβώς εύκολο. Χρειάζεστε Linux, μια GPU με υπολογιστικές δυνατότητες 8.0 ή υψηλότερη και ένα νυχτερινό σετ αλυσίδας εργαλείωνΈνα από τα πλεονεκτήματα αυτού του συστήματος είναι η χρήση του DisjointSliceένας τύπος δεδομένων που διασφαλίζει ότι κάθε νήμα έχει αποκλειστική πρόσβαση στο στοιχείο σαςεμποδίζοντας τον μεταγλωττιστή Rust να μπλοκάρει τον κώδικα για την προσπάθεια δημιουργίας ασύμβατων μεταβλητών δανείων.
Απλότητα και ασφάλεια με cutile-rs (Πλακάκια)
Αν προτιμάτε κάτι που μοιάζει περισσότερο με την εργασία με NumPy ή PyTorch, το cutile-rs είναι η καλύτερη επιλογή σας. Εδώ, δεν προγραμματίζετε μεμονωμένα νήματα, αλλά λειτουργείτε σε "πλακίδια" ή μπλοκ δεδομένων. Ο μεταγλωττιστής αποφασίζει πόσα πραγματικά νήματα χρειάζονται για να μετακινηθεί αυτό το μπλοκ, κάνοντας την ανάπτυξη πολύ πιο ομαλή και λιγότερο επιρρεπή σε σφάλματα ευρετηρίασης.
Σε αντίθεση με το SIMT, αυτό το έργο είναι πιο προσβάσιμο, καθώς εκτελείται σε σταθερό Rust και δεν απαιτεί χειροκίνητη εγκατάσταση LLVM. Χρησιμοποιεί μια μακροεντολή που μεταγλωττίζει τον πυρήνα χρησιμοποιώντας CUDA Tile IRs ακριβώς τη στιγμή της πρώτης εκκίνησης (JIT). Ένα εξαιρετικό χαρακτηριστικό του είναι η αργή διαχείριση λειτουργιών : το πρόγραμμα καταχωρεί μια συμβολοσειρά εντολών και εκτελεί ολόκληρο το σύνολο μόνο όταν ενεργοποιηθεί η μέθοδος συγχρονισμού, βελτιστοποιώντας την επικοινωνία μεταξύ της CPU και της GPU.
Η μαγεία του μεταγλωττιστή: Αντίο στους αγώνες δεδομένων
Αυτό που πραγματικά κάνει το CUDA Rust να αλλάζει τα δεδομένα είναι ο τρόπος με τον οποίο χειρίζεται τη μνήμη. Στον παραδοσιακό προγραμματισμό GPU, τα σφάλματα aliasing (όταν δύο threads γράφουν στην ίδια τοποθεσία) είναι εφιάλτες που εμφανίζονται μόνο στην παραγωγή. Το Rust λύνει αυτό το πρόβλημα επιβάλλοντας τους κανόνες ιδιοκτησίας του στα όρια της έκδοσης του πυρήνα.
- Στο μοντέλο SIMT, αν προσπαθήσετε να χρησιμοποιήσετε το buffer εξόδου ως είσοδο, ο μεταγλωττιστής θα εμφανίσει ένα σφάλμα. σφάλμα μεταβλητού δανείου (E0502).
- Στο μοντέλο Tile, η ιδιότητα tensor μεταφέρεται και οποιαδήποτε προσπάθεια χρήσης μιας μετακινημένης τιμής θα προκαλέσει την σφάλμα E0382.
Αυτό σημαίνει ότι το λογισμικό είναι ασφάλιση για κατασκευέςΕνώ στην SIMT η κοινόχρηστη μνήμη εξακολουθεί να απαιτεί μπλοκ unsafeΤο μοντέλο Tile εξαλείφει την ανάγκη χειροκίνητης διαχείρισης των ευρετηρίων νημάτων, εξαλείφοντας την πιθανότητα να γίνουν αυτά τα κλασικά λάθη από την εξίσωση.
Τρέχουσα κατάσταση και μέλλον του έργου
Είναι σημαντικό να διατηρήσουμε τα πράγματα ρεαλιστικά: και τα δύο έργα βρίσκονται σε πειραματική φάση . Το cuda-oxide βρίσκεται σε πρώιμη άλφα έκδοση, ενώ το cutile-rs είναι πιο προηγμένο και χρησιμοποιείται ήδη σε έργα όπως η μηχανή συμπερασμάτων Grout της HuggingFace. Η NVIDIA έχει καταστήσει σαφές ότι τα API ενδέχεται να αλλάξουν και ότι υπάρχει ακόμη δρόμος μπροστά μας πριν αυτά τα εργαλεία γίνουν κατάλληλα για περιβάλλοντα μαζικής παραγωγής.
Παρά το γεγονός ότι είναι νέο, αυτό το οικοσύστημα συνυπάρχει και συνεργάζεται με προηγούμενες προσπάθειες όπως η rust-gpu και η CubeCL. Στόχος είναι να καταστεί η Rust μια γλώσσα πρώτης τάξεως για επιταχυνόμενη υπολογιστική, επιτρέποντας στον κώδικα GPU να είναι τόσο ισχυρός και συντηρήσιμος όσο και ο κώδικας συστήματος. Η δυνατότητα διαλειτουργικότητας μεταξύ πυρήνων Tile και SIMT στην ίδια ροή διασφαλίζει ότι οι προγραμματιστές δεν είναι δεσμευμένοι σε μία μόνο μεθοδολογία.
Η δέσμευση της NVIDIA να ενσωματώσει το Rust στον πυρήνα του CUDA αντιπροσωπεύει μια απαραίτητη εξέλιξη για την υποδομή Τεχνητής Νοημοσύνης, μετατοπίζοντας την ασφάλεια από τον χρόνο εκτέλεσης στον χρόνο μεταγλώττισης. Προσφέροντας οδούς τόσο για λεπτομερή έλεγχο νημάτων όσο και για απλοποιημένο χειρισμό τενσόρων, εκδημοκρατικοποιεί την πρόσβαση στην ακραία απόδοση των GPU εξαλείφοντας την τυπική ευθραυστότητα μνήμης στην C++, εγκαινιάζοντας έτσι μια εποχή όπου η αποτελεσματικότητα και η απόλυτη ασφάλεια συνυπάρχουν στο ίδιο δυαδικό σύστημα.
Συχνές ερωτήσεις
Ποια είναι η διαφορά μεταξύ του οξειδίου του Cuda και του custile-rs;
Το Cuda-oxide εστιάζει στο μοντέλο SIMT για όσους χρειάζονται πλήρη έλεγχο των νημάτων και της μνήμης, ενώ το cutile-rs χρησιμοποιεί το μοντέλο Tile για να χειρίζεται τους τεντωτήρες πιο εύκολα και με ασφάλεια.
Είναι δυνατή η χρήση του CUDA Rust σε έργα παραγωγής σήμερα;
Δεν συνιστάται για παραγωγή, καθώς και τα δύο έργα είναι πειραματικά, βρίσκονται σε πρώιμο στάδιο και τα API τους ενδέχεται να υποστούν σημαντικές αλλαγές.
Ποιες απαιτήσεις υλικού χρειάζομαι για να εκτελέσω αυτούς τους πυρήνες;
Απαιτείται GPU NVIDIA με υπολογιστική ικανότητα 8.0 ή υψηλότερη και η χρήση λειτουργικών συστημάτων Linux.
Πώς αποτρέπει το Rust τα σφάλματα μνήμης GPU;
Χρησιμοποιεί το σύστημα ιδιοκτησίας και δανεισμού για την ανίχνευση διενέξεων ψευδωνύμων και εκτελέσεων δεδομένων κατά τη μεταγλώττιση, αποτρέποντας την εκτέλεση μη ασφαλούς κώδικα.
Χρειάζεται να χρησιμοποιώ μια νυχτερινή έκδοση του Rust για τα πάντα;
Μόνο η διαδρομή cuda-oxide απαιτεί νυχτερινή αλυσίδα εργαλείων, ενώ το cutile-rs είναι συμβατό με σταθερές εκδόσεις του Rust 1.89 ή νεότερες.
Μπορώ να συνδυάσω πυρήνες διαφορετικών μοντέλων στην ίδια εφαρμογή;
Ναι, οι πυρήνες Tile και SIMT είναι διαλειτουργικοί και μπορούν να εκτελούνται στην ίδια ροή χρησιμοποιώντας κοινόχρηστα buffer συσκευών.
Τι είναι ο κώδικας PTX στο πλαίσιο του CUDA Rust;
Είναι η ενδιάμεση γλώσσα assembly στην οποία μεταγλωττίζονται οι πυρήνες της Rust, έτσι ώστε ο οδηγός της GPU να μπορεί να τους εκτελεί αποτελεσματικά.




