- এনভিডিয়া জিপিইউ কার্নেল ডেভেলপমেন্টে রাস্টকে নেটিভভাবে একীভূত করার জন্য একটি উদ্যোগ চালু করেছে, যা অন্যান্য ভাষার উপর নির্ভরতা দূর করবে।
- ইকোসিস্টেমটি দুটি প্রধান রুটে বিভক্ত: SIMT-এর মাধ্যমে সম্পূর্ণ নিয়ন্ত্রণের জন্য cuda-oxide এবং Tiles-ভিত্তিক একটি সরলীকৃত পদ্ধতির জন্য cutile-rs।
- উভয় টুলই রাস্টের নিরাপত্তা ও মালিকানার নিশ্চয়তা হার্ডওয়্যারে নিয়ে আসে এবং কম্পাইল করার সময়েই মেমরি ত্রুটি ও ডেটা রান শনাক্ত করে।
আধুনিক কৃত্রিম বুদ্ধিমত্তাকে সমর্থনকারী পরিকাঠামো অত্যন্ত দ্রুত গতিতে বিকশিত হচ্ছে, এবং এর সাথে তাল মিলিয়ে চলতে এনভিডিয়া (NVIDIA) রাস্ট (Rust)-এ নেটিভ প্রোগ্রামিং- এ ব্যাপকভাবে বিনিয়োগ করার সিদ্ধান্ত নিয়েছে । যদিও এন্টারপ্রাইজ সেক্টরের জন্য কুডা সি++ (CUDA C++) এবং কুডা পাইথন (CUDA Python) ইতিমধ্যেই প্রতিষ্ঠিত এবং শক্তিশালী টুল, শিল্পক্ষেত্রটি রাস্ট-এর দিকে ঝুঁকছে, কারণ এটি মূল পারফরম্যান্সে কোনো রকম ছাড় না দিয়েই কোড চলার আগেই গুরুতর মেমোরি ত্রুটি দূর করতে পারে।
খুব সম্প্রতি পর্যন্ত, রাস্ট ইনফারেন্স ইঞ্জিন বা ড্রাইভারের মতো বাহ্যিক স্তরগুলিতে ব্যবহৃত হত, কিন্তু জিপিইউ কার্নেলগুলিই ছিল সেই 'অন্ধবিন্দু' যেখানে ডেভেলপারদের অন্য ভাষার সাহায্য নিতে হত। CUDA রাস্ট-এর আগমনের সাথে, এনভিডিয়া এই প্রযুক্তিগত ব্যবধানটি পূরণ করতে চাইছে , যা ডেভেলপারদের সরাসরি রাস্টে ডিভাইস লজিক লিখতে এবং এটিকে PTX-এ কম্পাইল করতে দেবে, ফলে সেইসব ঝামেলাপূর্ণ র্যাপারগুলি এড়ানো যাবে যা কাজের ধারাকে জটিল করে তুলত।
জিপিইউ জয় করার দুটি পথ
প্রোগ্রামারদের বিভিন্ন ধরনের চাহিদার সাথে খাপ খাইয়ে নিতে, এনভিডিয়া দুটি ভিন্ন পদ্ধতি চালু করেছে যা CUDA-এর বহুমুখীতাকে অনুকরণ করে। একদিকে রয়েছে SIMT মডেল, এবং অন্যদিকে, টাইল মডেল। সাধারণ পরামর্শ হলো টাইল পদ্ধতি দিয়ে শুরু করা , কারণ কম্পাইলার প্রতিটি আর্কিটেকচার জুড়ে ডেটা কীভাবে ম্যাপ করা হবে তা অপ্টিমাইজ করে, যা প্রোগ্রামারকে নির্দিষ্ট হার্ডওয়্যার সম্পর্কে ম্যানুয়াল এবং ক্লান্তিকর সিদ্ধান্ত নেওয়া থেকে বিরত রাখে।
কুডা-অক্সাইড (SIMT) দ্বারা সম্পূর্ণ নিয়ন্ত্রণ
যারা নিয়ন্ত্রণ ছাড়তে চান না এবং থ্রেড ও শেয়ার্ড মেমরির উপর নিখুঁত নির্ভুলতা চান, তাদের জন্য রয়েছে cuda-oxide । এই টুলটি rustc-এর জন্য একটি কাস্টম কোড জেনারেশন ব্যাকএন্ড হিসেবে কাজ করে। প্রক্রিয়াটি বেশ জটিল: কার্নেল হিসেবে চিহ্নিত ফাংশনগুলো রাস্টের MIR, Pliron ফ্রেমওয়ার্ক এবং LLVM IR-এর মধ্য দিয়ে যায় এবং সবশেষে GPU-তে এক্সিকিউটেবল PTX কোডে রূপান্তরিত হয়।
প্রযুক্তিগত প্রয়োজনীয়তার কথা বলতে গেলে, ব্যাপারটা মোটেই সহজ নয়; আপনার লিনাক্স, ৮.০ বা তার বেশি কম্পিউট ক্ষমতাসম্পন্ন একটি জিপিইউ এবং একটি... প্রয়োজন হবে। টুলচেইন নাইটলি সেটএই সিস্টেমের অন্যতম সেরা দিক হলো এর ব্যবহার। DisjointSliceএকটি ডেটা টাইপ যা নিশ্চিত করে যে প্রতিটি থ্রেডের আছে আপনার উপাদানে একচেটিয়া প্রবেশাধিকারঅসঙ্গত পরিবর্তনযোগ্য ধার (mutable borrows) নেওয়ার চেষ্টার জন্য রাস্ট কম্পাইলার যাতে কোডটিকে ব্লক করতে না পারে, তা প্রতিরোধ করা।
cutile-rs (টাইল) এর সাথে সরলতা এবং নিরাপত্তা
আপনি যদি নামপাই (NumPy) বা পাইটর্চ (PyTorch)-এর মতো কোনো কিছু দিয়ে কাজ করতে পছন্দ করেন, তবে কিউটাইল-আরএস (cutile-rs) আপনার জন্য সেরা বিকল্প। এখানে আপনাকে আলাদা থ্রেড প্রোগ্রাম করতে হয় না, বরং ডেটার 'টাইলস' বা ব্লকের উপর কাজ করতে হয়। ওই ব্লকটি সরানোর জন্য ঠিক কতগুলো থ্রেড প্রয়োজন, তা কম্পাইলারই নির্ধারণ করে দেয়, ফলে ডেভেলপমেন্ট অনেক বেশি মসৃণ হয় এবং ইনডেক্সিং ত্রুটির সম্ভাবনাও কমে যায় ।
এর সহোদর SIMT-এর থেকে ভিন্ন, এই প্রজেক্টটি আরও সহজলভ্য কারণ এটি স্টেবল রাস্ট (stable Rust) -এ চলে এবং এর জন্য ম্যানুয়াল LLVM ইনস্টলেশনের প্রয়োজন হয় না। এটি একটি ম্যাক্রো ব্যবহার করে যা প্রথমবার চালু হওয়ার সময়েই (JIT) CUDA Tile IRs ব্যবহার করে কার্নেল কম্পাইল করে। এর একটি চমৎকার বৈশিষ্ট্য হলো এর লেজি অপারেশন ম্যানেজমেন্ট : প্রোগ্রামটি একটি কমান্ড স্ট্রিং রেজিস্টার করে এবং শুধুমাত্র সিনক্রোনাইজেশন মেথডটি কল করা হলেই সম্পূর্ণ সেটটি এক্সিকিউট করে, যা সিপিইউ (CPU) এবং জিপিইউ (GPU)-এর মধ্যে যোগাযোগকে অপ্টিমাইজ করে।
কম্পাইলারের জাদু: ডেটা রেসকে বিদায়
যা CUDA Rust-কে সত্যিকারের যুগান্তকারী করে তুলেছে, তা হলো এর মেমরি পরিচালনার পদ্ধতি। প্রচলিত GPU প্রোগ্রামিং-এ, অ্যালিয়াসিং ত্রুটি (যখন দুটি থ্রেড একই স্থানে লেখে) এক দুঃস্বপ্ন, যা কেবল প্রোডাকশন পর্যায়েই দেখা যায়। Rust কার্নেল রিলিজ বাউন্ডারিতে এর মালিকানার নিয়মগুলো প্রয়োগ করার মাধ্যমে এই সমস্যার সমাধান করে।
- SIMT মডেলে, আউটপুট বাফারকে ইনপুট হিসেবে ব্যবহার করার চেষ্টা করলে কম্পাইলার একটি ত্রুটি দেখাবে। পরিবর্তনযোগ্য ঋণ ত্রুটি (E0502)।
- টাইল মডেলে, টেনসর প্রপার্টি স্থানান্তরিত হয়, এবং স্থানান্তরিত মান ব্যবহার করার যেকোনো প্রচেষ্টার ফলে ত্রুটি দেখা দেবে। ত্রুটি E0382.
এর মানে হল যে সফ্টওয়্যারটি হল নির্মাণের জন্য বীমাঅপরদিকে SIMT-তে শেয়ার্ড মেমরির জন্য এখনও ব্লকের প্রয়োজন হয় unsafeটাইল মডেল থ্রেড ইনডেক্স ম্যানুয়ালি পরিচালনা করার প্রয়োজনীয়তা দূর করে, ফলে সেই চিরাচরিত ভুলগুলো করার সম্ভাবনাও আর থাকে না।
প্রকল্পের বর্তমান অবস্থা ও ভবিষ্যৎ
বাস্তববাদী হওয়া জরুরি: দুটি প্রজেক্টই পরীক্ষামূলক পর্যায়ে রয়েছে । cuda-oxide আর্লি আলফা পর্যায়ে আছে, অন্যদিকে cutile-rs আরও উন্নত এবং HuggingFace-এর Grout ইনফারেন্স ইঞ্জিনের মতো প্রজেক্টে এটি ইতিমধ্যেই ব্যবহৃত হচ্ছে। NVIDIA স্পষ্ট করে দিয়েছে যে API-গুলো পরিবর্তিত হতে পারে এবং এই টুলগুলো ব্যাপক প্রোডাকশন এনভায়রনমেন্টের জন্য উপযুক্ত হওয়ার আগে এখনও অনেক পথ বাকি আছে।
নতুন হওয়া সত্ত্বেও, এই ইকোসিস্টেমটি রাস্ট-জিপিইউ (rust-gpu) এবং কিউবসিএল (CubeCL)-এর মতো পূর্ববর্তী উদ্যোগগুলোর সাথে সহাবস্থান ও সহযোগিতা করে। এর লক্ষ্য হলো অ্যাক্সিলারেটেড কম্পিউটিংয়ের জন্য রাস্টকে একটি প্রথম-শ্রেণীর ভাষায় পরিণত করা , যাতে জিপিইউ (GPU) কোড সিস্টেম কোডের মতোই শক্তিশালী এবং রক্ষণাবেক্ষণযোগ্য হতে পারে। একই স্ট্রিমে টাইল (Tile) এবং সিমটি (SIMT) কার্নেলগুলোর মধ্যে আন্তঃক্রিয়া করার ক্ষমতা নিশ্চিত করে যে ডেভেলপাররা কোনো একটি নির্দিষ্ট পদ্ধতিতে আবদ্ধ থাকবেন না।
CUDA-এর কোরে Rust-কে একীভূত করার ক্ষেত্রে NVIDIA-এর অঙ্গীকারটি AI পরিকাঠামোর জন্য একটি প্রয়োজনীয় বিবর্তনকে প্রতিনিধিত্ব করে, যা নিরাপত্তাকে রানটাইম থেকে কম্পাইল টাইমে স্থানান্তরিত করে। সূক্ষ্ম থ্রেড নিয়ন্ত্রণ এবং সরলীকৃত টেনসর ম্যানিপুলেশন উভয়ের পথ খুলে দিয়ে, এটি C++-এর সাধারণ মেমরি ভঙ্গুরতা দূর করার মাধ্যমে GPU-এর চরম পারফরম্যান্সে সকলের প্রবেশাধিকারকে সহজলভ্য করে, যার ফলে এমন একটি যুগের সূচনা হয় যেখানে দক্ষতা এবং সম্পূর্ণ নিরাপত্তা একই বাইনারির মধ্যে সহাবস্থান করে।
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
কুডা-অক্সাইড এবং কিউটাইল-আরএস এর মধ্যে পার্থক্য কী?
যারা থ্রেড এবং মেমরির উপর সম্পূর্ণ নিয়ন্ত্রণ চান, তাদের জন্য Cuda-oxide SIMT মডেলের উপর মনোযোগ দেয়, অন্যদিকে cutile-rs আরও সহজে ও নিরাপদে টেনশনার পরিচালনা করার জন্য Tile মডেল ব্যবহার করে।
বর্তমানে প্রোডাকশন প্রোজেক্টে CUDA Rust ব্যবহার করা কি সম্ভব?
প্রোডাকশনের জন্য এটি সুপারিশ করা হয় না, কারণ উভয় প্রজেক্টই পরীক্ষামূলক ও প্রাথমিক পর্যায়ে রয়েছে এবং এগুলোর এপিআই-তে উল্লেখযোগ্য পরিবর্তন আসতে পারে।
এই কার্নেলগুলো চালানোর জন্য আমার কী কী হার্ডওয়্যার প্রয়োজন?
কম্পিউট ক্যাপাবিলিটি ৮.০ বা তার উচ্চতর সংস্করণের একটি এনভিডিয়া জিপিইউ এবং লিনাক্স অপারেটিং সিস্টেমের ব্যবহার প্রয়োজন।
রাস্ট কীভাবে জিপিইউ মেমরি ত্রুটি প্রতিরোধ করে?
এটি কম্পাইলেশনের সময় অ্যালিয়াসিং দ্বন্দ্ব এবং ডেটা রান শনাক্ত করতে ওনারশিপ ও বোরোয়িং সিস্টেম ব্যবহার করে, যা অনিরাপদ কোডকে চলতে বাধা দেয়।
আমাকে কি সবকিছুর জন্য রাস্টের নাইটলি ভার্সন ব্যবহার করতে হবে?
শুধুমাত্র cuda-oxide পাথটির জন্য নাইটলি টুলচেইন প্রয়োজন, অপরদিকে cutile-rs রাস্ট ১.৮৯ বা তার উচ্চতর স্থিতিশীল সংস্করণগুলোর সাথে সামঞ্জস্যপূর্ণ।
আমি কি একই অ্যাপ্লিকেশনে বিভিন্ন মডেলের কার্নেল একসাথে ব্যবহার করতে পারি?
হ্যাঁ, Tile এবং SIMT কার্নেলগুলো পরস্পর কার্যক্ষম এবং শেয়ার্ড ডিভাইস বাফার ব্যবহার করে একই স্ট্রিমে চলতে পারে।
CUDA Rust-এর প্রেক্ষাপটে PTX কোড বলতে কী বোঝায়?
এটি হলো মধ্যবর্তী অ্যাসেম্বলি ভাষা, যেটিতে রাস্ট কার্নেলগুলো কম্পাইল করা হয়, যাতে জিপিইউ ড্রাইভার সেগুলোকে দক্ষতার সাথে চালাতে পারে।




