গুগল টেনসর এসডিকে এবং পিক্সেলে এআই-এর ভবিষ্যৎ সম্পর্কে একটি পূর্ণাঙ্গ নির্দেশিকা

ইনফরমটেক ডিজিটাল » মানে » গুগল টেনসর এসডিকে এবং পিক্সেলে এআই-এর ভবিষ্যৎ সম্পর্কে একটি পূর্ণাঙ্গ নির্দেশিকা

আপনি যদি অ্যাপ ডেভেলপমেন্ট এবং কৃত্রিম বুদ্ধিমত্তার সাথে জড়িত থাকেন, তাহলে সম্ভবত লক্ষ্য করেছেন যে খেলার নিয়ম বদলে যাচ্ছে। গুগল তার সবচেয়ে শক্তিশালী হার্ডওয়্যারের দরজা খুলে দেওয়ার সিদ্ধান্ত নিয়েছে। উন্নয়ন সফ্টওয়্যার এর Tensor ML SDKএমন একটি টুল যা ডেভেলপারদের পিক্সেল ডিভাইসের টেনসর প্রসেসিং ইউনিট (TPU)-এর সর্বোচ্চ ব্যবহার করতে সাহায্য করে, যার ফলে এআই ক্লাউডের উপর নির্ভরশীল না হয়ে সরাসরি ডিভাইসেই পরিচালিত হয়।

সবচেয়ে উত্তেজনাপূর্ণ বিষয় হলো, এই SDK-টি তার পরীক্ষামূলক পর্যায় পেছনে ফেলে প্রবেশ করেছে। বিটা পর্যায়এর মানে হলো, এটি এখন আর শুধু কিছু নির্দিষ্ট মানুষের জন্য নয়; যেকোনো প্রোগ্রামার গুগলের টেনসর এসওসি (Tensor SoC) আর্কিটেকচার ব্যবহার করে এমন সব কাজ সম্পাদন করতে পারবেন যা আগে স্থানীয়ভাবে করা অসম্ভব বলে মনে হতো। এর মাধ্যমে ইন্টারেক্টিভ, প্রাইভেট এবং সর্বোপরি, অবিশ্বাস্যভাবে দ্রুত এআই অভিজ্ঞতা তৈরি করা সম্ভব।

সম্পর্কিত নিবন্ধ:

গুগল টিপিইউ ভি৭ আয়রনউড কী এবং কেন এটি এআই পরিবর্তন করে?

LiteRT-এর সৌজন্যে একটি সমন্বিত কর্মপ্রবাহ

ডেভেলপারদের জটিল কনফিগারেশন নিয়ে মাথা ঘামানো থেকে বিরত রাখতে, গুগল টেনসর এসডিকে-কে একীভূত করেছে LiterRT সম্পর্কেএই ফ্রেমওয়ার্কটি একটি অ্যাবস্ট্রাকশন লেয়ার হিসেবে কাজ করে, যা ভেন্ডর-নির্দিষ্ট SDK বা জটিল কম্পাইলার ব্যবহারের প্রয়োজনীয়তা দূর করে এবং এজ-এ মেশিন লার্নিং মডেল ডেপ্লয় করার জন্য একটি সরলীকৃত ও সামঞ্জস্যপূর্ণ API প্রদান করে।

প্রক্রিয়াটি মূলত তিনটি প্রধান পর্যায়ে বিভক্ত। প্রথমত রয়েছে মডেলদের সংকলনযেখানে আপনি আপনার পাইটর্চ প্রোজেক্টগুলিকে রূপান্তর করতে পারেন অথবা TensorFlow ভিত্তিক TFLite LiteRT Torch ব্যবহার করে অপ্টিমাইজ করা বাইনারিগুলিতে। তারপর আসে স্থাপনাঅ্যাপ্লিকেশনটির মধ্যে লাইব্রেরি এবং কম্পাইল করা মডেলগুলিকে দক্ষতার সাথে বিতরণ করার জন্য প্লে ফিচার ডেলিভারি এবং তথাকথিত এআই প্যাক ব্যবহার করা হয়।

অবশেষে, আমরা অনুমানের কার্য সম্পাদনে এসে পৌঁছেছি। ধন্যবাদ LiteRT রানটাইমমাত্র কয়েকটি কোড লাইন লিখেই আপনি আপনার মডেলটি টিপিইউ-তে চালাতে পারবেন। সবচেয়ে ভালো ব্যাপার হলো, সিস্টেমটি স্মার্ট: যদি কোনো কারণে টিপিইউ উপলব্ধ না থাকে, আপনি কনফিগার করতে পারবেন। ব্যাকআপ ব্যবস্থা যাতে লোড স্বয়ংক্রিয়ভাবে সিপিইউ বা জিপিইউ-তে স্থানান্তরিত হয়, ফলে অ্যাপটি কখনোই থেমে যায় না।

সম্পর্কিত নিবন্ধ:

কৃত্রিম বুদ্ধিমত্তায় গভীর যুক্তি: একটি সম্পূর্ণ নির্দেশিকা

আদর্শ বাগান: সম্ভাবনার একটি তালিকা

প্রথম থেকে শুরু করার কোনো প্রয়োজন নেই, কারণ বিটা এসডিকে-তে একটি অন্তর্ভুক্ত রয়েছে মডেল গার্ডেন অসাধারণ। এটি ১০০ টিরও বেশি মডেলের একটি লাইব্রেরি, যেখানে ক্লাসিক্যাল এমএল এবং জেনারেটিভ এআই উভয়ই রয়েছে, যার মধ্যে বিভিন্ন সংস্করণও অন্তর্ভুক্ত। জেমা ৩ ২৭বিLiteRT-এ হাগিং ফেস কমিউনিটি থেকে সরাসরি ডাউনলোড করার মতো বিপুল সংখ্যক প্রি-কম্পাইলড মডেল ছাড়াও আরও অনেক মডেল রয়েছে।

আপনি যদি টেক্সট ফাংশন তৈরি করতে চান, ছোট ল্যাঙ্গুয়েজ মডেল যেমন ফাংশন জেমা এগুলো আপনাকে অ্যাপের মধ্যে স্থানীয় কাজ সম্পাদন করার সুযোগ দেয়, অন্যদিকে EmbeddingGemma উন্নত শব্দার্থিক সক্ষমতা যোগ করে। দৃশ্যগত দিকে, SDK আপনাকে বাস্তবায়ন করার সুযোগ দেয়। বস্তু সনাক্তকরণ এবং গভীরতা ম্যাপিংযা এমন ক্যামেরা অ্যাপ্লিকেশনগুলির জন্য অমূল্য, যেগুলিকে ব্যবহারকারীর পারিপার্শ্বিক অবস্থার সাথে রিয়েল টাইমে প্রতিক্রিয়া জানাতে হয়।

তারা অডিও এবং অ্যাক্সেসিবিলিটির কথাও ভোলেননি। এখন এটি চালানো সম্ভব। এন্ড-টু-এন্ড ভয়েস রিকগনিশনএর ফলে অত্যন্ত কম ল্যাটেন্সিতে ট্রান্সক্রিপশন এবং অফলাইনে কাজ করা অনুবাদ টুল নিশ্চিত হয়, এবং যেহেতু ফোন থেকে কোনো কিছুই বাইরে যায় না, তাই ডেটার গোপনীয়তাও বজায় থাকে।

প্রযুক্তিগত অপ্টিমাইজেশন এবং হার্ডওয়্যার সমর্থন

এর থেকে সর্বোত্তম সুবিধা পেতে হলে, কোন কোন হার্ডওয়্যার সমর্থিত তা জানা অপরিহার্য। বর্তমানে, এই ইকোসিস্টেমটি ফ্যামিলি ভিত্তিক। পিক্সেল 10Pro, Pro XL এবং Pro Fold মডেলগুলো সহ, যেগুলোর সবগুলোই SoC দিয়ে সজ্জিত। গুগল টেনসর জি 5এআই-কে মসৃণভাবে চালানোর জন্য, গুগল কম্পাইলেশনের সময় নির্দিষ্ট অপটিমাইজেশন ফ্ল্যাগ ব্যবহার করার পরামর্শ দেয়।

উদাহরণস্বরূপ, LiteRT পাইথন ফ্লোতে ফ্ল্যাগ ব্যবহার করা খুবই সাধারণ। google_tensor_truncation_type=”half” পারফরম্যান্স এবং রিসোর্স ব্যবহার সমন্বয় করতে। বিস্তৃত ভাষা মডেল (LLM)-এর ক্ষেত্রে, এক্সপোর্ট করার জন্য বিস্তারিত প্যারামিটার প্রয়োজন হয়, যেমন কনফিগারেশন। কোয়ান্টাইজেশন_রেসিপি এবং AOT কনফিগারেশন ডিকশনারির মাধ্যমে বৃহৎ মডেলগুলোর জন্য সমর্থন সক্রিয়করণ।

সম্পর্কিত নিবন্ধ:

গুগল পিক্সেল: স্বতন্ত্র বৈশিষ্ট্য যা এটিকে অন্যদের থেকে আলাদা করে

এটা উল্লেখ করা গুরুত্বপূর্ণ যে, যদিও NNAPI পূর্বে বিদ্যমান ছিল, এটি এখন থেকে অপ্রচলিত হয়ে গেছে। অ্যান্ড্রয়েড 15এখনকার কৌশল হলো সবকিছু LiteRT প্রতিনিধিদের মাধ্যমে সম্পন্ন করা, যেখানে পুরোনো বাস্তবায়নগুলোকে প্রতিস্থাপন করতে এবং নিজেদের অবস্থান সুদৃঢ় করতে Pixel TPU-এর সমর্থন অপরিহার্য হয়ে উঠেছে। শক্তি দক্ষতা ঊর্ধ্বতন.

জেমা ৪ বিপ্লব এবং মাল্টিমোডাল এআই

চলুন সর্বশেষ বিষয়টি নিয়ে কথা বলা যাক: আগমন জেমা ৩ ২৭বিঅন্যান্য মডেলের মতো নয়, যেগুলো ল্যাঙ্গুয়েজ মডেলের সাথে একটি ইমেজ এনকোডার সংযুক্ত করে, জেমা ৪ ইমেজকে নেটিভভাবে প্রসেস করে। এই সরলীকৃত আর্কিটেকচারটি কেবল VRAM-এর ব্যবহারই কমায় না, বরং আরও অনেক কিছুর সুযোগ করে দেয়... ক্রস-মোডাল রিজনিং অনেক বেশি সাবলীল এবং সুসংহত।

একটি কনটেক্সট উইন্ডোর সাথে 256K টোকেনএই মডেলটি তাল না হারিয়ে একাধিক ছবি সহ দীর্ঘ কথোপকথন পরিচালনা করতে পারে। অধিকন্তু, এটি লাইসেন্সের অধীনে বিতরণ করা হচ্ছে। আপাচি 2.0এটি বাণিজ্যিক ব্যবহার এবং পুনর্বণ্টনের জন্য অত্যন্ত নমনীয়, যা ৪ বা ৮ বিট কোয়ান্টাইজেশন ব্যবহার করে আধুনিক ল্যাপটপে মাল্টিমোডাল এআই চালানোর সুযোগ দেয়।

গুগলের লক্ষ্য স্পষ্ট: এটি চায় ডেভেলপাররা এর উন্মুক্ত ওয়েটিং মডেলগুলো গ্রহণ করে ইকোসিস্টেমে আধিপত্য বিস্তার করুক। এআই-এর জন্য কাজ সহজ করে তোলার মাধ্যমে... স্থানীয় এবং শক্তিশালীএগুলো বাহ্যিক এপিআই-এর উপর নির্ভরতা কমায় এবং টেনসর হার্ডওয়্যার ও লাইটআরটি সফটওয়্যারকে কেন্দ্র করে একটি সুসংহত সম্প্রদায় গড়ে তোলে।

হার্ডওয়্যারকে একত্রিত করার মাধ্যমে পিক্সেলের উন্নয়ন ইকোসিস্টেম একটি গুণগত উল্লম্ফন ঘটিয়েছে। টেনসর G5 LiteRT-এর বহুমুখীতা এবং Gemma 4-এর মতো মডেলের শক্তির কারণে, সেইসাথে SDK-এর বিটা সংস্করণে রূপান্তর এবং আগে থেকে অপ্টিমাইজ করা মডেলের বিশাল ক্যাটালগ সহজলভ্য হওয়ায়, ব্যক্তিগতভাবে ও অত্যন্ত দ্রুততার সাথে ভিশন, স্পিচ এবং ল্যাঙ্গুয়েজ প্রসেস করতে পারে এমন অ্যাপ্লিকেশন তৈরি করা এখন যেকোনো প্রোগ্রামারের জন্য একটি সহজলভ্য বাস্তবতা।

সম্পর্কিত নিবন্ধ:

আপনার পিসিকে কীভাবে একটি আসল এআই ল্যাবে রূপান্তর করবেন