الأخبار التكنولوجية والاستعراضات والنصائح!

قامت Nvidia ببناء وحدة معالجة رسومات ضخمة مزدوجة لتشغيل نماذج مثل ChatGPT

ستساعدك المقالة التالية: قامت Nvidia ببناء وحدة معالجة رسومات ضخمة مزدوجة لتشغيل نماذج مثل ChatGPT

يركز مؤتمر تقنية GPU (GTC) نصف السنوي لشركة Nvidia عادةً على التطورات في مجال الذكاء الاصطناعي ، ولكن هذا العام ، تستجيب Nvidia للارتفاع الهائل في ChatGPT مع قائمة من وحدات معالجة الرسومات الجديدة. أهمها هو H100 NVL ، الذي يجمع اثنين من وحدات معالجة الرسومات H100 من Nvidia معًا لنشر نماذج اللغات الكبيرة (LLM) مثل ChatGPT.

H100 ليست وحدة معالجة رسومات جديدة. أعلنت Nvidia عن ذلك قبل عام في GTC ، وهي تتميز بهندستها المعمارية هوبر وتعد بتسريع استدلال الذكاء الاصطناعي في مجموعة متنوعة من المهام. يُقال إن طراز NVL الجديد بذاكرة ضخمة تبلغ 94 جيجابايت يعمل بشكل أفضل عند نشر LLM على نطاق واسع ، مما يوفر استدلالًا أسرع بما يصل إلى 12 مرة مقارنةً بالجيل الأخير من A100.

نفيديا

تقع وحدات معالجة الرسومات هذه في قلب نماذج مثل ChatGPT. كشفت Nvidia و Microsoft مؤخرًا عن استخدام الآلاف من وحدات معالجة الرسومات A100 لتدريب ChatGPT ، وهو مشروع استغرق إعداده أكثر من خمس سنوات.

يعمل H100 NVL من خلال الجمع بين اثنين من وحدات معالجة الرسومات H100 عبر اتصال NVLink ذي النطاق الترددي العالي من Nvidia. هذا ممكن بالفعل مع وحدات معالجة الرسومات H100 الحالية – في الواقع ، يمكنك توصيل ما يصل إلى 256 H100s معًا من خلال NVLink – ولكن هذه الوحدة المخصصة مصممة لعمليات النشر الأصغر.

هذا منتج مصمم للشركات أكثر من أي شيء آخر ، لذلك لا تتوقع أن ترى H100 NVL ينبثق على الرف في Micro Center المحلي. ومع ذلك ، تقول Nvidia إن عملاء المؤسسات يمكنهم توقع رؤيتها في النصف الثاني من العام تقريبًا.

بالإضافة إلى H100 NVL ، أعلنت Nvidia أيضًا عن L4 GPU ، المصمم خصيصًا لتشغيل مقاطع الفيديو التي يتم إنشاؤها بواسطة AI. تقول Nvidia إنها أقوى 120 مرة بالنسبة لمقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي من وحدة المعالجة المركزية ، وتوفر كفاءة طاقة أفضل بنسبة 99٪. بالإضافة إلى فيديو AI التوليدي ، تقول Nvidia إن إمكانات فك تشفير وتحويل الفيديو الرياضي GPU ويمكن الاستفادة منها في الواقع المعزز.

تقول Nvidia إن Google Cloud هي من بين أول من دمج L4. تخطط Google لتقديم مثيلات L4 للعملاء من خلال نظامها الأساسي Vertex AI في وقت لاحق اليوم. قالت Nvidia إن وحدة معالجة الرسومات ستكون متاحة من الشركاء لاحقًا ، بما في ذلك Lenovo و Dell و Asus و HP و Gigabyte و HP ، من بين آخرين.