- يتميز جهاز B200 بذاكرة HBM3e بسعة 180 جيجابايت وعرض نطاق ترددي هائل يبلغ 8 تيرابايت/ثانية.
- نقدم لكم بنية بلاكويل مع الجيل الخامس من نوى Tensor ودعم أصلي لدقة FP4.
- يتفوق هذا الجهاز بشكل كبير على جهاز H100 في أداء الاستدلال، مما يقلل بشكل كبير من تكلفة الرمز المميز.
- يستخدم هذا النظام تقنية الربط البيني NVLink 5.0 لتحقيق اتصال ثنائي الاتجاه بسرعة 1.8 تيرابايت/ثانية لكل وحدة معالجة رسومية.
إذا كنت من عشاق الأجهزة المتطورة، فلا شك أنك سمعت عن النقلة النوعية التي تمثلها سلسلة Blackwell . إن NVIDIA B200 ليس مجرد ترقية عادية، بل هو معالج جبار مصمم خصيصًا للقضاء على اختناقات الذاكرة والحوسبة في تطبيقات الذكاء الاصطناعي.
تُقدَّم هذه البطاقة كجوهرة تاج مراكز البيانات، إذ تُركِّز على حلّ مشكلة نماذج اللغة الكبيرة (LLM) العريقة. بفضل تصميمها المبتكر وقوتها التي تفوق سابقاتها، تُسهِّل بطاقة B200 تدريب النماذج ونشرها بشكلٍ كبير مقارنةً بما كنا نقوم به قبل بضع سنوات فقط.
المواصفات الفنية والبنية الداخلية
يُعدّ معالج B200 تحفة هندسية مبنية على معمارية بلاكويل. فهو يستخدم تصميم GB100 ثنائي الشريحة ، حيث يتم دمج شريحتين عبر وصلة بين الشرائح بسرعة 10 تيرابايت/ثانية، مما يسمح لنظام التشغيل بالتعرف عليهما كوحدة واحدة. ويتم تصنيعه باستخدام تقنية 4NP من TSMC ، ويحتوي على عدد هائل من الترانزستورات يصل إلى 208.000 مليار ترانزستور.
فيما يتعلق بتكوين العرض، يحتوي هذا الجهاز على 18.944 وحدة تظليل، و592 وحدة معالجة نسيجية (TMU)، و24 وحدة إخراج (ROP). تبلغ سرعة الساعة الأساسية 120 ميجاهرتز، ويمكن رفعها إلى 1830 ميجاهرتز ، بينما تعمل الذاكرة بسرعة 2000 ميجاهرتز. ينتج عن كل هذه القدرة استهلاك طاقة حرارية (TDP) يبلغ 1000 واط في تصميم SXM، مع العلم أن بعض التطبيقات قد تختلف بين 700 و1000 واط حسب بيئة التشغيل.
الذاكرة وعرض النطاق الترددي: جوهر الأداء
يتجلى تميز جهاز B200 الحقيقي في إدارة البيانات. فهو مزود بذاكرة HBM3e بسعة 180 جيجابايت ، ما يسمح بتحميل نماذج ضخمة دون الحاجة إلى تقسيمها على وحدات معالجة رسومية متعددة. ولكن ليس هذا فحسب، بل إن عرض النطاق الترددي البالغ 8 تيرابايت/ثانية هو ما يصنع الفرق، أي ما يقارب 2,4 ضعف عرض النطاق الترددي لجهاز H100.
ببساطة، يُعدّ استدلال LLM في جوهره مشكلة قراءة من الذاكرة. عند إنشاء كل رمز، يجب على وحدة معالجة الرسومات قراءة مصفوفة الأوزان الكاملة للنموذج. بفضل هذا النطاق الترددي، تستطيع وحدة B200 الحفاظ على سرعة إنشاء رموز أعلى بكثير ، مما يُزيل التأخيرات التي تظهر عادةً في النماذج التي تحتوي على 70 مليار مُعامل أو أكثر.
قوة الحوسبة والقفزة إلى FP4
يتمثل الابتكار الرئيسي في الجيل الخامس من معالجات Tensor، التي تدعم دقة FP4 بشكل أصلي . وتُعد هذه الميزة بالغة الأهمية لأنها تُتيح تقليل استهلاك الذاكرة بنسبة 5% مقارنةً بدقة FP8، مما يُضاعف فعليًا عدد المعاملات التي يُمكن معالجتها. وبالنظر إلى الأداء الفعلي، يُحقق معالج B200 أداءً يصل إلى 20 بيتا فلوبس بدقة FP4 و9 بيتا فلوبس بدقة FP8.
بالمقارنة مع جيل Hopper، تُعدّ القفزة هائلة. فبينما يُعاني H100 من قصور في الأداء عند التعامل مع البيانات منخفضة الدقة، يُقدّم B200 أداءً في الاستدلال يصل إلى أربعة أضعاف . وهذا يُترجم إلى انخفاض كبير في تكلفة المليون رمز، مما يجعله أكثر ربحية للشركات التي تُقدّم واجهات برمجة تطبيقات الذكاء الاصطناعي على نطاق واسع.
مقارنة مباشرة: B200 مقابل H100 و H200
إذا كنت تتساءل عما إذا كان التحديث يستحق العناء، فالإجابة المختصرة هي نعم، بشرط أن تكون مشاريعك كبيرة. فمقارنةً ببطاقة H100 SXM5 التي تحتوي على 80 جيجابايت فقط من ذاكرة الوصول العشوائي للفيديو (VRAM)، توفر بطاقة B200 أكثر من ضعف هذه الذاكرة . هذا يعني أنه يمكن تثبيت مشروع Llama 3.1 بحجم 70 بايت باستخدام FP16 بسهولة على بطاقة واحدة، مما يجنبك تعقيدات المعالجة المتوازية للموترات.
حتى بالمقارنة مع H200، الذي كان بالفعل أفضل من حيث الذاكرة (141 جيجابايت)، يتفوق B200 بشكل واضح بفضل زيادة سعة ذاكرة الفيديو بنسبة 28% وزيادة عرض النطاق الترددي بنسبة 67%. علاوة على ذلك، يعزز اتصال NVLink 5.0 الاتصال ثنائي الاتجاه إلى 1.8 تيرابايت/ثانية، أي ضعف سرعة NVLink 4.0، مما يتيح توسعًا شبه خطي في تكوينات 8 وحدات معالجة رسومية.
متطلبات البنية التحتية والطاقة
لا يمكننا تجاهل حقيقة أن نقل هذه القدرة الهائلة يتطلب بنية تحتية متطورة. فنظام B200 ثماني وحدات معالجة رسومية يستهلك ما بين 7 و8 كيلوواط في المعالجة وحدها. ورغم أن التبريد الهوائي خيارٌ عملي في الخوادم عالية الكثافة جيدة التهوية، إلا أن التبريد السائل المباشر يُوصى به بشدة للحفاظ على عمر الأجهزة ومنع انخفاض الأداء بسبب الحرارة.
من حيث الاتصال، يستخدم الجهاز واجهة PCI-Express 6.0 x16 ، ويتوافق نظام البرمجيات الخاص به تمامًا مع CUDA 12.x و cuDNN 9.x. أي كود يعمل بالفعل على H100 سيعمل على B200 دون تغييرات، ولكن للاستفادة القصوى من FP4، من الضروري استخدام TensorRT-LLM 0.17+ أو إصدارات محدثة من vLLM.
تحليل تكلفة وتوافر الخدمات السحابية
في سوق تأجير وحدات معالجة الرسومات، رسّخت وحدة B200 مكانتها كخيار جذاب للغاية. على منصات مثل RunPod وSpheron، تتراوح أسعار الاستخدام عند الطلب عادةً بين 5,89 و9,36 دولارًا أمريكيًا في الساعة، بينما قد تنخفض أسعار الاستخدام الفوري إلى 5,34 دولارًا أمريكيًا. على الرغم من أن السعر بالساعة أعلى من سعر وحدة H100، إلا أن كفاءة استخدام كل وحدة عالية جدًا، مما يجعل التكلفة النهائية للخدمة عادةً أقل بكثير.
على الرغم من الطلب الهائل وملايين الوحدات المُدرجة في قائمة الانتظار للشراء المباشر، تُعدّ الحوسبة السحابية أسرع طريقة للوصول إلى منتجات بلاكويل. يتيح خيار الدفع بالثانية للمطورين اختبار نماذج FP4 الخاصة بهم دون الالتزام بعقود بنية تحتية مادية بملايين الدولارات.
يُعيد معالج NVIDIA B200 تعريف توقعاتنا من مُسرّعات الذكاء الاصطناعي، إذ يجمع بين ذاكرة HBM3e الضخمة ودعم FP4 الرائد وتقنية NVLink 5.0 فائقة السرعة. وبفضل تجاوزه الكبير لقيود النطاق الترددي والسعة لسلسلة Hopper، يُصبح الأداة الأمثل لمن يُديرون نماذج لغوية واسعة النطاق، مُحسّنًا أداء الاستدلال وتكاليف التشغيل لكل رمز.