আপনার কম্পিউটারে কৃত্রিম বুদ্ধিমত্তার জন্য এনপিইউ আছে কিনা তা কীভাবে বুঝবেন

ইনফরমটেক ডিজিটাল » হার্ডওয়্যারের » আপনার কম্পিউটারে কৃত্রিম বুদ্ধিমত্তার জন্য এনপিইউ আছে কিনা তা কীভাবে বুঝবেন

আপনি সম্ভবত ইদানীং বিখ্যাত "এআই পিসি" সম্পর্কে শুনেছেন এবং ভেবেছেন যে আপনার ডেস্কের কম্পিউটারটিও সেগুলোর মধ্যে একটি কি না। এর মূল চাবিকাঠি হলো এনপিইউ (নিউরাল প্রসেসিং ইউনিট) , যা প্রায় সব আধুনিক ল্যাপটপে একটি সাধারণ উপাদান হয়ে উঠছে। এটি কৃত্রিম বুদ্ধিমত্তাকে সিস্টেমের বাকি অংশের উপর অতিরিক্ত চাপ সৃষ্টি করা থেকে বিরত রাখে এবং সর্বোপরি, কয়েক মিনিটের মধ্যে ব্যাটারি শেষ হয়ে যাওয়া থেকে রক্ষা করে।

ক্লাউডের উপর নির্ভর না করে স্থানীয়ভাবে এআই মডেল চালাতে চাইলে , আপনার কাছে এই অ্যাক্সিলারেটরটি আছে কিনা তা জানা অত্যন্ত জরুরি। এটি কেবল আপনার হার্ডওয়্যার প্রদর্শনের বিষয় নয়, বরং এর অবিশ্বাস্য শক্তি-সাশ্রয়ী ক্ষমতার সুবিধা নেওয়ার বিষয়, যা আপনাকে জটিল কাজগুলো সম্পাদন করতে সাহায্য করে, অথচ আপনার পিসির ফ্যান থেকে এমন বিকট শব্দ হয় না যা শুনে মনে হবে এটি মঙ্গলগ্রহে উড়ে যাবে। চলুন দেখে নেওয়া যাক, আপনার কাছে এটি আছে কিনা তা কীভাবে খুঁজে বের করবেন এবং এটি দিয়ে আপনি এখনই আসলে কী কী করতে পারেন।

উইন্ডোজে এনপিইউ সনাক্ত করার দ্রুত পদ্ধতি

আপনি যদি উইন্ডোজ ব্যবহার করেন, তবে উত্তরটি খুঁজে পেতে আপনাকে কম্পিউটার বিশেষজ্ঞ হতে হবে না। সবচেয়ে সহজ উপায় হলো টাস্ক ম্যানেজার (Ctrl + Shift + Esc) খুলে পারফরম্যান্স ট্যাবটি দেখা। আপনার কম্পিউটারে সাপোর্ট থাকলে, আপনি সিপিইউ এবং জিপিইউ-এর পাশে এনপিইউ (NPU) নামে একটি নির্দিষ্ট সেকশন দেখতে পাবেন, যেখানে আপনি রিয়েল টাইমে এর কাজের চাপ পর্যবেক্ষণ করতে পারবেন।

আরেকটি খুব নির্ভরযোগ্য উপায় হলো ডিভাইস ম্যানেজারে যাওয়া । শুধু "নিউরাল প্রসেসর " নামের বিভাগটি খুঁজুন । যদি সেই বিভাগটি তালিকায় থাকে, অভিনন্দন: আপনার একটি এনপিইউ (NPU) ইনস্টল করা আছে। এই পদ্ধতির সবচেয়ে ভালো দিক হলো এটি আপনাকে চিপটির সঠিক নাম বলে দেয়, ফলে আপনি অনলাইনে এর প্রযুক্তিগত বিবরণ দেখে নিতে পারেন যে এটি কত TOPS (অপারেশন প্রতি সেকেন্ড) অর্জন করতে পারে।

প্রযুক্তিগত অনুসন্ধান এবং প্রস্তুতকারকের সহায়তা

কখনও কখনও, সফটওয়্যার সমস্যা সৃষ্টি করতে পারে বা ড্রাইভারগুলো পুরোনো হয়ে যেতে পারে, এবং তখনই সরাসরি মূল উৎসের সাথে যোগাযোগ করা সবচেয়ে ভালো। আদর্শগতভাবে, আপনার সেটিংস মেনুতে আপনার প্রসেসরটি শনাক্ত করা উচিত এবং তারপরে প্রস্তুতকারকের (সেটি ইন্টেল, এএমডি বা কোয়ালকম যাই হোক না কেন) অফিসিয়াল ওয়েবসাইটে যাওয়া উচিত। আপনার নির্দিষ্ট মডেলের স্পেসিফিকেশন শিট থেকে, আপনি নিশ্চিত করতে পারেন যে চিপটিতে এআই (AI) সক্ষমতা রয়েছে কিনা এবং এটি উইন্ডোজের কোন কোন ফিচার, যেমন ক্যামেরা স্টুডিও এফেক্টস, সমর্থন করে।

আপনি যদি Copilot+ PC লেবেলযুক্ত কোনো ডিভাইস কিনে থাকেন , বিশেষ করে যেগুলোতে Snapdragon X Elite বা Plus প্রসেসর রয়েছে, তাহলে আপনি নিশ্চিন্ত থাকতে পারেন যে NPU-টি স্ট্যান্ডার্ড হিসেবেই ইন্টিগ্রেটেড রয়েছে। তবে, Windows Update অথবা প্রস্তুতকারকের ওয়েবসাইট থেকে ড্রাইভারগুলো হালনাগাদ আছে কিনা তা সবসময় যাচাই করে নেওয়া বাঞ্ছনীয়, যাতে সিস্টেমটি হার্ডওয়্যারটিকে সঠিকভাবে শনাক্ত করতে পারে।

ম্যাক ইকোসিস্টেমে এনপিইউ-এর পরিস্থিতি

অ্যাপলের জগতে, ব্যাপারটা আরও সহজ ও সরল। অ্যাপল সিলিকন- এ রূপান্তরের সাথে সাথেই এনপিইউ-এর আগমন ঘটে । এর মানে হলো, M1, M2, M3, বা M4 চিপযুক্ত যেকোনো ম্যাকে আগে থেকেই একটি ইন্টিগ্রেটেড নিউরাল ইউনিট রয়েছে। এই আর্কিটেকচার, যা আংশিকভাবে আইফোন চিপ থেকে উত্তরাধিকারসূত্রে প্রাপ্ত, অ্যাপল ইন্টেলিজেন্স-এর মতো ফিচারগুলোকে অ্যাপল কম্পিউটারে মসৃণভাবে এবং স্থানীয়ভাবে চলতে সাহায্য করে।

এর আসল উদ্দেশ্য কী এবং এর সীমাবদ্ধতাগুলো কী কী?

এটি একটি সাধারণ ভুল ধারণা যে এনপিইউ (NPU) গ্রাফিক্স কার্ডের বিকল্প। বাস্তবে, এটি কোয়ান্টাইজড ওয়েট (INT8 বা INT4) ব্যবহার করে নিউরাল নেটওয়ার্ক ইনফারেন্সের ক্ষেত্রে একটি বিশেষায়িত যন্ত্র। যেখানে জিপিইউ (GPU) একটি সাধারণ কাজের শক্তিশালী যন্ত্র, সেখানে এনপিইউ হলো একটি সূক্ষ্ম কাজের যন্ত্র যা ফাই-৩ মিনি (Phi-3 Mini)-এর মতো ছোট মডেল চালাতে পারে এবং এর জন্য মাত্র ৫ থেকে ১০ ওয়াট শক্তি খরচ হয়, যেখানে একটি ল্যাপটপের জিপিইউ ৪০-৫০ ওয়াট শক্তি ব্যবহার করে।

তবে, পরিস্থিতি সবসময় ভালো নয়। এনপিইউ মডেল ট্রেনিং বা ফাইন-টিউনিংয়ের জন্য ডিজাইন করা হয়নি ; এই কাজটি ডেডিকেটেড ভিআরএএম সহ জিপিইউ-এর একচেটিয়া ক্ষেত্র। এছাড়াও, যদি আপনার সিস্টেমে মাত্র ১৬ জিবি র‍্যাম থাকে, তবে ৭ বাইট প্যারামিটার সহ একটি মডেল চালানোর চেষ্টা করাটা বেশ ঝামেলার হতে পারে, কারণ এনপিইউ সিস্টেমের সাথে মেমরি শেয়ার করে এবং এর ফলে আপনার কম্পিউটারটি মসৃণভাবে চলতে হিমশিম খেতে পারে।

বর্তমান সফ্টওয়্যার এবং অ্যাপ্লিকেশনগুলির চ্যালেঞ্জ

এখান থেকেই বিষয়টি জটিল হয়ে ওঠে। হার্ডওয়্যার থাকলেই যে সব অ্যাপ সেটি ব্যবহার করবে, এমনটা নয়। বর্তমানে, প্রতিটি নির্মাতার নিজস্ব "ভাষা" রয়েছে: ইন্টেলের জন্য ওপেনভিনো (OpenVINO), এএমডি-র জন্য আরওসিএম/রাইজেন এআই (ROCm/Ryzen AI), এবং কোয়ালকমের জন্য কিউএনএন (QNN )। যদিও ওএনএনএক্স রানটাইম (ONNX Runtime) স্ট্যান্ডার্ড এটিকে একীভূত করার চেষ্টা করে, তবুও অনেক জনপ্রিয় অ্যাপ্লিকেশন এখনও এনপিইউ-কে (NPU) উপেক্ষা করে।

• এলএম স্টুডিও: এটি ইতিমধ্যেই QNN-এর মাধ্যমে কোয়ালকম এনপিইউ-কে সমর্থন করা শুরু করেছে।
• ওল্লামা: আপাতত, এটি এনপিইউ-কে বাদ দিয়ে প্রধানত সিপিইউ বা জিপিইউ-এর ওপরই নির্ভর করে চলেছে।
• উইন্ডোজ কোপাইলট: ভিডিও কলে ব্যাকগ্রাউন্ড ব্লার করা বা লাইভ ক্যাপশনের মতো নেটিভ কাজগুলোর জন্য এনপিইউ ব্যবহার করুন।

যদি আপনি লক্ষ্য করেন যে টাস্ক ম্যানেজারে এনপিইউ ব্যবহার সবসময় ০% থাকছে, তবে এটি অগত্যা আপনার দিকের কোনো সমস্যা নয়; সফটওয়্যার ইকোসিস্টেমটি এখনও পরিপক্ক হচ্ছে । আমরা এখন অনেকটা সেই সময়ের মতো একটি পর্যায়ে আছি, যখন বৈজ্ঞানিক কম্পিউটিংয়ের জন্য প্রথম জিপিইউ ব্যবহার শুরু হয়েছিল: হার্ডওয়্যারটি এগিয়ে আছে এবং ডেভেলপাররা তাদের টুলগুলোকে মানিয়ে নিতে শুরু করেছে।

আজকাল নিউরাল অ্যাক্সিলারেটর থাকা একটি প্রতিযোগিতামূলক সুবিধা, বিশেষ করে আল্ট্রাবুক এবং মিনি পিসিতে, যেখানে নীরবতা এবং ব্যাটারি লাইফ অত্যন্ত গুরুত্বপূর্ণ। যদিও বর্তমানে এর প্রয়োগ উইন্ডোজ ফাংশন বা কিছু কোয়ান্টাইজড মডেলে সীমাবদ্ধ, প্রবণতাটি স্পষ্ট: স্বল্প মেয়াদে, এনপিইউ হবে এমন যেকোনো ব্যক্তিগত সহকারীর জন্য আদর্শ ইঞ্জিন, যা আমাদের হার্ড ড্রাইভে থাকবে এবং ব্যাটারি খরচ করবে না।