أسرار xAI Colossus: 100,000 وحدة معالجة رسومية

ماذا يوجد داخل مجموعة مكونة من 100000 وحدة معالجة رسومية؟ 🤔

يأخذنا باتريك من ServeTheHome في جولة بكاميرته عبر أجزاء مختلفة من الخادم، مما يوفر رؤية بانورامية لعملياته. على الرغم من أن بعض تفاصيل ولم يتسن الكشف عن تفاصيل أكثر تحديدا عن الحاسوب العملاق، مثل استهلاكه للطاقة وحجم القنابل، بسبب اتفاقية السرية، وقد حرصت شركة xAI على طمس أجزاء من الفيديو وحذفها قبل إصداره. 🎥

وعلى الرغم من ذلك، فإن أهم شيء، كما هو الحال بالنسبة للخوادم وحدة معالجة الرسومات من شركة Supermicro، ظلت سليمة تقريبًا في اللقطات. هذه خوادم GPU هي نفيديا HGX H100، حل خادم قوي يضم ثمانية وحدات معالجة رسومية H100 لكل منها. 🚀 تم دمج منصة HGX H100 ضمن نظام 4U Universal GPU Liquid مبردة من Supermicro، مما يوفر تبريدًا سائلًا قابلًا للتبديل بسهولة لكل وحدة معالجة رسومية. ❄️

يتم تنظيم هذه الخوادم في رفوف تحتوي كل منها على ثمانية خوادم، بإجمالي 64 وحدة معالجة الرسومات لكل إطار. يتم وضع مجمعات 1U بين كل HGX H100، مما يوفر التبريد السائل اللازم للخوادم. في أسفل كل رف، نجد وحدة Supermicro 4U أخرى، وهذه المرة مجهزة بنظام ضخ احتياطي ونظام مراقبة الرف. 🔍

🖥️ يتم تنظيم هذه الرفوف في مجموعات من ثمانية، مما يسمح بـ 512 وحدة معالجة الرسومات حسب المصفوفة. تم تجهيز كل خادم بأربعة مصادر الطاقة متكرر. في الجزء الخلفي من رفوف وحدة معالجة الرسومات، هناك مصادر طاقة ثلاثية الطور، ومفاتيح إيثرنت، ومجمع بحجم الرف يوفر كل التبريد السائل. 💧

يوجد أكثر من 1500 رف في مجموعة Colossus وحدة معالجة الرسومات، موزعة في حوالي 200 مجموعة من الإطارات. وفقًا لجينسن هوانج، الرئيس التنفيذي لشركة نفيدياتم تركيب وحدات معالجة الرسوميات على هذه القوالب البالغ عددها 200 قالب بالكامل في ثلاثة أسابيع فقط. 🚀

نظرًا لأن مجموعة الذكاء الاصطناعي العملاقة التي تدرب النماذج باستمرار تتطلب قدرًا كبيرًا من النطاق الترددي، فقد ذهب الذكاء الاصطناعي إلى أبعد من ذلك في ترابطه شبكة. تحتوي كل بطاقة رسوميات على وحدة تحكم واجهة الشبكة (NIC) مخصصة بسعة 400GbE، مع وحدة تحكم واجهة الشبكة (NIC) إضافية بسعة 400Gb لكل خادم. 🔗 وهذا يعني أن كل خادم HGX H100 يحتوي على 3.6 تيرابايت في الثانية من إيثرنت. مُثير للإعجاب، أليس كذلك؟ ونعم، تعمل المجموعة بأكملها على Ethernet، وليس InfiniBand أو الاتصالات الغريبة الأخرى التي تعد قياسية في عالم الحوسبة الفائقة. 🌐

بالطبع، يحتاج حاسوب عملاق مثل روبوت المحادثة Grok 3، الذي يدرب نماذج الذكاء الاصطناعي، إلى أكثر من مجرد وحدة معالجة الرسومات للعمل بأفضل ما يمكن. 🔥 في حين أن التفاصيل المتعلقة بخوادم التخزين ووحدة المعالجة المركزية في Colossus محدودة إلى حد ما، بفضل فيديو باتريك و تدوينةنحن نعلم أن هذه الخوادم تكون عادةً في هيكل Supermicro. 🚀

يتم استخدام خوادم 1U الموجهة بتقنية NVMe مع وحدات المعالجة المركزية الخاصة بمنصة x86 في الداخل، مما يوفر سعة تخزين ومعالجة. الحوسبة، ومجهزة بنظام تبريد سائل في الجزء الخلفي. 💧 بالإضافة إلى ذلك، يمكنك رؤية بنوك من الخارج البطاريات سيارة Tesla Megapack صغيرة الحجم للغاية. ⚡️

كانت خاصية بدء وإيقاف المصفوفة، مع زمن الانتقال الذي يبلغ ميلي ثانية بين البنوك، أكثر من اللازم بالنسبة لشبكة الطاقة التقليدية أو مولدات الديزل الخاصة بموسك. لذلك، يتم استخدام العديد من وحدات Tesla Megapacks (كل منها بسعة 3.9 ميجاوات في الساعة) كمصدر طاقة وسيط بين شبكة الكهرباء والحاسوب العملاق. 🖥️🔋 وهذا يضمن التشغيل الأمثل والفعال، وتجنب الانقطاعات. 🚦✨

🌟 استخدام Colossus والحاسوب العملاق المستقر الخاص بـ Musk 🌟

وفقًا لشركة Nvidia، يعد الكمبيوتر العملاق xAI Colossus حاليًا أكبر كمبيوتر عملاق للذكاء الاصطناعي في العالم. في حين يتم استخدام العديد من أجهزة الكمبيوتر العملاقة الرائدة في العالم في الأبحاث من قبل المقاولين أو الأكاديميين لدراسة أنماط الطقس أو الأمراض أو المهام المعقدة الأخرى، فإن Colossus مسؤول بشكل كامل عن تدريب نماذج الذكاء الاصطناعي المختلفة الخاصة بـ X (Twitter سابقًا). بشكل أساسي، Grok 3، روبوت المحادثة "المضاد للاستيقاظ" من Elon والذي يتوفر فقط لمشتركي X Premium. 🤖

بالإضافة إلى ذلك، تم إبلاغ ServeTheHome بأن Colossus يقوم بالتدريب نماذج الذكاء الاصطناعي «المستقبل»؛ نماذج من المفترض أن استخداماتها وقدراتها تتجاوز القدرات الحالية للذكاء الاصطناعي. 🚀 تم الانتهاء من المرحلة الأولى من بناء Colossus وأصبحت المجموعة جاهزة للتشغيل بالكامل، ولكن لم يتم الانتهاء منها بالكامل بعد. سيتم قريبا إطلاق حاسوب ممفيس العملاق سيتم التحديث مضاعفة سعة وحدة معالجة الرسوميات، بإضافة 50 ألف وحدة معالجة رسوميات H100 و50 ألف وحدة معالجة رسوميات H200 من الجيل التالي. 🔥

هذا تحديث وسوف يؤدي ذلك أيضًا إلى مضاعفة استهلاك الطاقة، وهو بالفعل أكثر مما تستطيع المولدات الديزل الـ14 التي أضافها ماسك إلى الموقع في يوليو التعامل معه. ⚡ في حين أن هذا أقل من وعد ماسك بوجود 300 ألف وحدة H200 داخل Colossus، إلا أن ذلك قد يكون جزءًا من المرحلة الثالثة من التحديثات. 🔋

من ناحية أخرى، فإن حاسوب Cortex العملاق الذي يحتوي على 50 ألف وحدة معالجة رسومية في مصنع "جيجا تكساس" التابع لشركة تيسلا، مملوك أيضًا لشركة Musk. Cortex مخصص لتدريب تكنولوجيا الذكاء الاصطناعي المستقل لشركة تسلا من خلال بث الكاميرا واستشعار الصور، بالإضافة إلى الروبوتات المستقلة لشركة تسلا ومشاريع الذكاء الاصطناعي الأخرى. 🤖🚗

بالإضافة إلى ذلك، ستشهد شركة تسلا قريبًا بناء حاسوب Dojo العملاق في بوفالو، نيويورك، وهو مشروع بقيمة 500 مليون دولار أمريكي سيبدأ العمل قريبًا. في هذه الأثناء، يتوقع المضاربون في الصناعة مثل الرئيس التنفيذي لشركة Baidu روبن لي أن 99% من شركات الذكاء الاصطناعي قد تنهار عندما تنفجر الفقاعة. ويبقى أن نرى ما إذا كان الإنفاق القياسي الذي ضخه ماسك في مجال الذكاء الاصطناعي سيأتي بنتائج عكسية أم أنه سيؤتي ثماره. ⏳