المصدر الأصلي: Science and Technology Innovation Board Daily
رصيد الصورة: تم إنشاؤه بواسطة Unbounded AI
في 11 يوليو ، أطلقت إنتل شريحة تدريب سحابية على الذكاء الاصطناعي - Habana® Gaudi® 2 في السوق الصينية. يمكن للرقاقة أن تلبي احتياجات النماذج اللغوية واسعة النطاق والنماذج متعددة الوسائط ونماذج الذكاء الاصطناعي التوليدية. وفقًا للمقدمة في الموقع ، فإن أداء الشريحة أفضل من أداء Nvidia A100 في بعض المؤشرات الرئيسية.
من المفهوم أن معالج Gaudi2 وبطاقة الميزانين Gaudi2 HL-225B يعتمدان على بنية Gaudi عالية الأداء من الجيل الأول ولديهما 24 نواة لمعالج Tensor قابلة للبرمجة (TPCs).
تدمج كل شريحة 21 واجهة إيثرنت بسرعة 100 جيجابت في الثانية (RoCEv2 RDMA) مخصصة للتوصيل البيني الداخلي ، ومجهزة بذاكرة عالية السرعة تبلغ 96 جيجابايت HBM وعرض نطاق ترددي إجمالي للذاكرة يبلغ 2.4 تيرابايت / ثانية ، وتفي بنماذج اللغات واسعة النطاق والنماذج متعددة الوسائط والنماذج التوليدية. يحتاج نموذج الذكاء الاصطناعي.
وفقًا للمقدمة في الموقع ، فإن الأداء لكل واط من Intel Gaudi2 الذي يعمل على ResNet-50 يبلغ حوالي ضعف أداء NVIDIA A100 ، والأداء لكل واط لتشغيل نموذج BLOOMZ الذي يبلغ 176 مليارًا هو حوالي 1.6 ضعف أداء A100. **
في المؤتمر الصحفي ، أصدر ليو جون ، نائب رئيس Inspur Information والمدير العام لـ AI و HPC ، جيلًا جديدًا من خادم AI NF5698G7 المجهز بـ Gaudi2 على الفور.
حاليًا ، ** تعاونت Intel مع Inspur Information لإنشاء خادم AI NF5698G7 ** استنادًا إلى مسرّع التعلم العميق Gaudi2. يدمج الخادم 8 بطاقات تسريع Gaudi2 HL-225B ، ويتضمن أيضًا معالجات Intel Xeon مزدوجة من الجيل الرابع قابلة للتطوير ، تدعم محركات تسريع الذكاء الاصطناعي مثل AMX / DSA. في نفس اليوم ، تم إطلاق خادم AI رسميًا أيضًا.
أكد وانغ لي ، كبير مديري المنتجات في Inspur Information ، على أن NF5698G7 هو جيل جديد من خوادم الذكاء الاصطناعي التي تم تطويرها خصيصًا لسوق الذكاء الاصطناعي التوليدي.وهو يدعم 8 مسرعات Gaudi2 المترابطة عالية السرعة OAM وسيزود عملاء الذكاء الاصطناعي بتدريب نموذجي واسع النطاق و قدرات التفكير.
قال Liu Hongcheng ، نائب رئيس خط إنتاج الحوسبة والتخزين في H3C ، إنه استنادًا إلى مسرّع Intel Gaudi2 AI ، تتعاون H3C مع Intel لتطوير خوادم AI عالية الأداء مناسبة للتدريب والاستنتاج على نطاق واسع. **
في الوقت نفسه ، أشار Tang Qiming ، رئيس مجال البنية التحتية للطاقة الحاسوبية لشركة Super Fusion Digital Technology Co.، Ltd. ، إلى أن ** Super Fusion و Intel ستطلقان معًا منتجات وحلولًا جديدة تعتمد على Gaudi2. **
في السابق ، أشار وانج روي ، رئيس مجلس إدارة Intel China ، في مقابلة مع مراسل من "Science and Technology Board Daily" إلى أن موجة ** ChatGPT أدت إلى زيادة كبيرة في الطلب على الحوسبة ، وتتطور حاليًا مع العملاء الصينيين بما في ذلك بايدو وعلي .. بحث مشترك. ** كشف وانغ روي أنه تم وضع كل من الحوسبة عالية الأداء والحوسبة الموزعة.
شارك مراسل من Science and Technology Innovation Board Daily ، وهو خبير تقني في Intel ، تخطيط Intel في مجال النماذج الكبيرة. على مستوى التدريب ، بالنسبة للحوسبة غير المتجانسة مثل CPU و GPU و IPU و Habana ، تستخدم Intel الأنظمة الأساسية API و XPU لتوفير المزيد من الخيارات. فيما يتعلق بالمنطق ، بعد إصدار الجيل الرابع من Sapphire Rapids ، استنادًا إلى مسرّع AMX ، يمكنه حل أكثر من 80٪ من احتياجات التفكير المنطقي للعملاء في الصناعة. في الوقت نفسه ، تستفيد أيضًا بشكل كامل من وحدة المعالجة المركزية ، بما في ذلك Ponte Vecchio للتدريب ، و Arctic Sound للتفكير.
مع تصاعد النماذج الكبيرة ، يتطور نموذج الأعمال الخاص بالحوسبة السحابية نحو MaaS (النموذج كخدمة) ، كما أن الطلب على قوة الحوسبة الذي جلبته يستحق الاهتمام أيضًا.
"تتمثل فكرتها في استخدام نموذج ما قبل التدريب لتدريب بيانات الصناعة لتشكيل نموذج مجزأ لسيناريوهات محددة ولصناعات مختلفة. نحن نعلم أن عدد معلمات النموذج العام كبير جدًا ، على سبيل المثال ، يمكن لـ GPT-3 تصل إلى 175 مليارًا ، سيكون نشر هذه النماذج مرهقًا ، وبالتالي ، قد تحتاج النماذج الكبيرة إلى التقطير والضغط لتشكيل نموذج يمكن نشره من قبل الصناعة. "قال الخبراء الفنيون المذكورين أعلاه.
بالإضافة إلى ذلك ، يُعد ** النشر المخصص للنماذج الكبيرة طلبًا محتملاً في العديد من الصناعات **. "العديد من الصناعات المقسمة لا تقبل خدمات SaaS ، وخاصة الصناعات المالية وغيرها. لذلك ، تناقش Intel كيفية تصغير هذا النموذج وتنفيذ النشر المخصخص محليًا بحيث يمكن تنفيذه حقًا في الصناعة."
شاهد النسخة الأصلية
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
هل تريد التنافس مع Nvidia؟ تدفع إنتل شرائح الذكاء الاصطناعي السحابية وتعتزم التعاون مع الشركات المصنعة المحلية لتطوير خوادم الذكاء الاصطناعي
المصدر الأصلي: Science and Technology Innovation Board Daily
في 11 يوليو ، أطلقت إنتل شريحة تدريب سحابية على الذكاء الاصطناعي - Habana® Gaudi® 2 في السوق الصينية. يمكن للرقاقة أن تلبي احتياجات النماذج اللغوية واسعة النطاق والنماذج متعددة الوسائط ونماذج الذكاء الاصطناعي التوليدية. وفقًا للمقدمة في الموقع ، فإن أداء الشريحة أفضل من أداء Nvidia A100 في بعض المؤشرات الرئيسية.
من المفهوم أن معالج Gaudi2 وبطاقة الميزانين Gaudi2 HL-225B يعتمدان على بنية Gaudi عالية الأداء من الجيل الأول ولديهما 24 نواة لمعالج Tensor قابلة للبرمجة (TPCs).
تدمج كل شريحة 21 واجهة إيثرنت بسرعة 100 جيجابت في الثانية (RoCEv2 RDMA) مخصصة للتوصيل البيني الداخلي ، ومجهزة بذاكرة عالية السرعة تبلغ 96 جيجابايت HBM وعرض نطاق ترددي إجمالي للذاكرة يبلغ 2.4 تيرابايت / ثانية ، وتفي بنماذج اللغات واسعة النطاق والنماذج متعددة الوسائط والنماذج التوليدية. يحتاج نموذج الذكاء الاصطناعي.
وفقًا للمقدمة في الموقع ، فإن الأداء لكل واط من Intel Gaudi2 الذي يعمل على ResNet-50 يبلغ حوالي ضعف أداء NVIDIA A100 ، والأداء لكل واط لتشغيل نموذج BLOOMZ الذي يبلغ 176 مليارًا هو حوالي 1.6 ضعف أداء A100. **
في المؤتمر الصحفي ، أصدر ليو جون ، نائب رئيس Inspur Information والمدير العام لـ AI و HPC ، جيلًا جديدًا من خادم AI NF5698G7 المجهز بـ Gaudi2 على الفور.
حاليًا ، ** تعاونت Intel مع Inspur Information لإنشاء خادم AI NF5698G7 ** استنادًا إلى مسرّع التعلم العميق Gaudi2. يدمج الخادم 8 بطاقات تسريع Gaudi2 HL-225B ، ويتضمن أيضًا معالجات Intel Xeon مزدوجة من الجيل الرابع قابلة للتطوير ، تدعم محركات تسريع الذكاء الاصطناعي مثل AMX / DSA. في نفس اليوم ، تم إطلاق خادم AI رسميًا أيضًا.
أكد وانغ لي ، كبير مديري المنتجات في Inspur Information ، على أن NF5698G7 هو جيل جديد من خوادم الذكاء الاصطناعي التي تم تطويرها خصيصًا لسوق الذكاء الاصطناعي التوليدي.وهو يدعم 8 مسرعات Gaudi2 المترابطة عالية السرعة OAM وسيزود عملاء الذكاء الاصطناعي بتدريب نموذجي واسع النطاق و قدرات التفكير.
قال Liu Hongcheng ، نائب رئيس خط إنتاج الحوسبة والتخزين في H3C ، إنه استنادًا إلى مسرّع Intel Gaudi2 AI ، تتعاون H3C مع Intel لتطوير خوادم AI عالية الأداء مناسبة للتدريب والاستنتاج على نطاق واسع. **
في الوقت نفسه ، أشار Tang Qiming ، رئيس مجال البنية التحتية للطاقة الحاسوبية لشركة Super Fusion Digital Technology Co.، Ltd. ، إلى أن ** Super Fusion و Intel ستطلقان معًا منتجات وحلولًا جديدة تعتمد على Gaudi2. **
في السابق ، أشار وانج روي ، رئيس مجلس إدارة Intel China ، في مقابلة مع مراسل من "Science and Technology Board Daily" إلى أن موجة ** ChatGPT أدت إلى زيادة كبيرة في الطلب على الحوسبة ، وتتطور حاليًا مع العملاء الصينيين بما في ذلك بايدو وعلي .. بحث مشترك. ** كشف وانغ روي أنه تم وضع كل من الحوسبة عالية الأداء والحوسبة الموزعة.
شارك مراسل من Science and Technology Innovation Board Daily ، وهو خبير تقني في Intel ، تخطيط Intel في مجال النماذج الكبيرة. على مستوى التدريب ، بالنسبة للحوسبة غير المتجانسة مثل CPU و GPU و IPU و Habana ، تستخدم Intel الأنظمة الأساسية API و XPU لتوفير المزيد من الخيارات. فيما يتعلق بالمنطق ، بعد إصدار الجيل الرابع من Sapphire Rapids ، استنادًا إلى مسرّع AMX ، يمكنه حل أكثر من 80٪ من احتياجات التفكير المنطقي للعملاء في الصناعة. في الوقت نفسه ، تستفيد أيضًا بشكل كامل من وحدة المعالجة المركزية ، بما في ذلك Ponte Vecchio للتدريب ، و Arctic Sound للتفكير.
مع تصاعد النماذج الكبيرة ، يتطور نموذج الأعمال الخاص بالحوسبة السحابية نحو MaaS (النموذج كخدمة) ، كما أن الطلب على قوة الحوسبة الذي جلبته يستحق الاهتمام أيضًا.
"تتمثل فكرتها في استخدام نموذج ما قبل التدريب لتدريب بيانات الصناعة لتشكيل نموذج مجزأ لسيناريوهات محددة ولصناعات مختلفة. نحن نعلم أن عدد معلمات النموذج العام كبير جدًا ، على سبيل المثال ، يمكن لـ GPT-3 تصل إلى 175 مليارًا ، سيكون نشر هذه النماذج مرهقًا ، وبالتالي ، قد تحتاج النماذج الكبيرة إلى التقطير والضغط لتشكيل نموذج يمكن نشره من قبل الصناعة. "قال الخبراء الفنيون المذكورين أعلاه.
بالإضافة إلى ذلك ، يُعد ** النشر المخصص للنماذج الكبيرة طلبًا محتملاً في العديد من الصناعات **. "العديد من الصناعات المقسمة لا تقبل خدمات SaaS ، وخاصة الصناعات المالية وغيرها. لذلك ، تناقش Intel كيفية تصغير هذا النموذج وتنفيذ النشر المخصخص محليًا بحيث يمكن تنفيذه حقًا في الصناعة."