- NVIDIA השיקה יוזמה לשילוב Rust באופן טבעי בפיתוח ליבת ה-GPU, ובכך מבטלת את התלות בשפות אחרות.
- המערכת האקולוגית מחולקת לשני מסלולים עיקריים: cuda-oxide לשליטה מלאה באמצעות SIMT ו-cutile-rs לגישה פשוטה המבוססת על Tiles.
- שני הכלים מביאים את ערבויות האבטחה והבעלות של Rust לחומרה, ומזהים שגיאות זיכרון והרצות נתונים בזמן הקומפילציה.

התשתית התומכת בבינה מלאכותית מודרנית מתפתחת במהירות מסחררת, וכדי לעמוד בקצב, NVIDIA החליטה להשקיע רבות בתכנות מקורי ב-Rust . בעוד ש-CUDA C++ ו-CUDA Python כבר כלים מבוססים וחזקים עבור המגזר הארגוני, התעשייה עוברת לכיוון Rust בשל יכולתה לחסל שגיאות זיכרון קריטיות עוד לפני שהקוד אפילו רץ, מבלי להתפשר על ביצועים גולמיים.
עד לאחרונה, Rust שימש בשכבות חיצוניות כמו מנועי הסקה או דרייברים, אך ליבות ה-GPU נותרו "הנקודה המתה" שבה מפתחים נאלצו לפנות לשפות אחרות. עם הגעתה של CUDA Rust, NVIDIA מבקשת לסגור את הפער הטכנולוגי הזה , ולאפשר למפתחים לכתוב לוגיקת התקנים ישירות ב-Rust ולקמפל אותה ל-PTX, ובכך להימנע מהמעטפות המסורבלות שסיבכו את זרימת העבודה.
שתי הדרכים לכיבוש ה-GPU
כדי להתאים את עצמה לצרכים המגוונים של מתכנתים, NVIDIA הציבה שתי גישות שונות המחקות את הרבגוניות של CUDA. מצד אחד, מודל ה-SIMT, ומצד שני, מודל ה-Tile. ההמלצה הכללית היא להתחיל עם גישת ה-Tile , שכן המהדר ממטב את אופן מיפוי הנתונים בכל ארכיטקטורה, ומונע מהמתכנת לקבל החלטות ידניות ומייגעות לגבי חומרה ספציפית.
שליטה מלאה עם קודה-אוקסיד (SIMT)
עבור אלו שאינם רוצים לוותר על שליטה וזקוקים לדיוק מדויק על גבי תהליכים וזיכרון משותף, קיים cuda-oxide . כלי זה משמש כבסיס ליצירת קוד מותאם אישית עבור rustc. התהליך מורכב: פונקציות המסומנות כגרעינים עוברות דרך ה-MIR של Rust, עוברות דרך המסגרת של Pliron ו-LLVM IR, ולבסוף מומרות לקוד PTX שניתן להריץ על גבי ה-GPU.
לגבי הדרישות הטכניות, זה לא בדיוק טיול בפארק; אתה צריך לינוקס, כרטיס מסך עם יכולות מחשוב של 8.0 ומעלה, ו... סט לילי של שרשרת כליםאחד מיתרונותיה של מערכת זו הוא השימוש ב DisjointSliceסוג נתונים שמבטיח שלכל רצף יש גישה בלעדית לאלמנט שלךמניעת חסימת הקוד של המהדר של Rust עקב ניסיון ליצור הלוואות ניתנות לשינוי שאינן תואמות.
פשטות ואבטחה עם cutile-rs (אריחים)
אם אתם מעדיפים משהו שדומה יותר לעבודה עם NumPy או PyTorch, cutile-rs היא האפשרות הטובה ביותר עבורכם. כאן, אינכם מתכנתים הליכים בודדים, אלא פועלים על "אריחים" או בלוקים של נתונים. המהדר מחליט כמה הליכים בפועל נדרשים כדי להזיז את הבלוק הזה, מה שהופך את הפיתוח לחלק הרבה יותר ופחות נוטה לשגיאות אינדוקס.
בניגוד לאחיו SIMT, פרויקט זה נגיש יותר מכיוון שהוא פועל על Rust יציב ואינו דורש התקנה ידנית של LLVM. הוא משתמש במקרו שמבצע קומפילציה של הליבה באמצעות CUDA Tile IRs ממש בזמן ההשקה הראשונה (JIT). תכונה מבריקה היא ניהול הפעולות העצלני שלו : התוכנית רושמת מחרוזת פקודה ומבצעת את כל הסט רק כאשר שיטת הסנכרון מופעלת, מה שממטב את התקשורת בין המעבד לכרטיס המסך.
הקסם של המהדר: להתראות למרוצי נתונים
מה שבאמת הופך את CUDA Rust לפורץ דרך הוא האופן שבו הוא מטפל בזיכרון. בתכנות GPU מסורתי, שגיאות aliasing (כאשר שני הלידים כותבים לאותו מיקום) הן סיוטים שמופיעים רק בסביבת ייצור. Rust פותר זאת על ידי אכיפת כללי הבעלות שלו בגבול שחרור הליבה.
- במודל SIMT, אם תנסה להשתמש במאגר הפלט כקלט, המהדר יזרוק שגיאה. שגיאת הלוואה ניתנת לשינוי (דואר 0502).
- במודל Tile, המאפיין טנסור מועבר, וכל ניסיון להשתמש בערך שהוזז יגרום ל- שגיאה E0382.
משמעות הדבר היא שהתוכנה היא ביטוח לבנייהבעוד שב-SIMT, זיכרון משותף עדיין דורש בלוקים unsafeמודל ה-Tile מבטל את הצורך לנהל אינדקסי הליכים באופן ידני, ומסיר את האפשרות לעשות את הטעויות הקלאסיות הללו מהמשוואה.
המצב הנוכחי ועתיד הפרויקט
חשוב לשמור על מציאותיות: שני הפרויקטים נמצאים בשלב ניסיוני . cuda-oxide נמצא בשלב אלפא מוקדם, בעוד ש-cutile-rs מתקדם יותר וכבר נמצא בשימוש בפרויקטים כמו מנוע ההסקה Grout של HuggingFace. NVIDIA הבהירה כי ממשקי ה-API עשויים להשתנות וכי עדיין יש דרך ארוכה לעבור לפני שכלים אלה יהיו מתאימים לסביבות ייצור מסיביות.
למרות היותה חדשה, מערכת אקולוגית זו קיימת במקביל ומשתפת פעולה עם מאמצים קודמים כמו rust-gpu ו-CubeCL. המטרה היא להפוך את Rust לשפה מהשורה הראשונה לחישוב מואץ, מה שיאפשר לקוד GPU להיות חזק וניתן לתחזוקה כמו קוד מערכת. היכולת לפעול באופן הדדי בין ליבות Tile ו-SIMT באותו זרם מבטיחה שמפתחים לא יהיו נעולים למתודולוגיה אחת.
המחויבות של NVIDIA לשלב את Rust בליבת CUDA מייצגת אבולוציה הכרחית עבור תשתית בינה מלאכותית, המעבירה את האבטחה מזמן ריצה לזמן קומפילציה. על ידי הצעת מסלולים הן לשליטה פרטנית בטכנולוגיית הליכים והן למניפולציה פשוטה של טנזורים, היא הופכת את הגישה לביצועים הקיצוניים של מעבדים גרפיים לדמוקרטיזציה על ידי ביטול שבריריות הזיכרון האופיינית ל-C++, ובכך מבשרת עידן שבו יעילות ואבטחה מוחלטת מתקיימות יחד באותו קובץ בינארי.
שאלות נפוצות
מה ההבדל בין קודה-אוקסיד לקוטיל-אר?
Cuda-oxide מתמקדת במודל SIMT עבור אלו הזקוקים לשליטה מוחלטת על חוטים וזיכרון, בעוד ש-cutile-rs משתמשת במודל Tile כדי להפעיל מותחנים בקלות ובבטחה רבה יותר.
האם ניתן להשתמש ב-CUDA Rust בפרויקטים של ייצור כיום?
לא מומלץ להשתמש בו לייצור מכיוון ששני הפרויקטים ניסיוניים, נמצאים בשלבים מוקדמים וממשקי ה-API שלהם עשויים לעבור שינויים משמעותיים.
אילו דרישות חומרה אני צריך כדי להריץ את הגרעינים האלה?
נדרשים כרטיס מסך של NVIDIA עם יכולת מחשוב 8.0 ומעלה ושימוש במערכות הפעלה לינוקס.
כיצד Rust מונע שגיאות זיכרון GPU?
היא משתמשת במערכת הבעלות וההשאלה כדי לזהות התנגשויות כינוי נתונים והרצות נתונים במהלך הקומפילציה, ובכך מונעת הפעלת קוד לא בטוח.
האם אני צריך להשתמש בגרסה לילית של Rust להכל?
רק נתיב cuda-oxide דורש שרשרת כלים לילית, בעוד ש-cutile-rs תואם לגרסאות יציבות של Rust 1.89 ומעלה.
האם ניתן לערבב ליבות של דגמים שונים באותה אפליקציה?
כן, ליבות Tile ו-SIMT פועלות באופן הדדי ויכולות לפעול על אותו זרם באמצעות מאגרים משותפים של התקנים.
מהו קוד PTX בהקשר של CUDA Rust?
זוהי שפת האסמבלי הביניים שאליה קומפילציות של גרעיני Rust כך שמנהל ההתקן של ה-GPU יוכל להריץ אותם ביעילות.



