قد تكون الخطوة التالية في النموذج الكبير للذكاء الاصطناعي هي الحل الرخيص الذي اتبعته شركة Google في السنوات الأولى

المصدر: وانغ جيانشو

المؤلف: وانغ جيانشو

لقد ظل ظهور خوادم Google المبكرة عالقًا في ذهني لسنوات عديدة، وقد أصبح معيارًا لفهمي للتكنولوجيا والشركات الناشئة.

هذا ما رأيته في متحف الكمبيوتر في وادي السيليكون عام 2007:

في الصورة أدناه، الخط الأخضر والأبيض هو خط إعادة الضبط، المتصل بزر، والخط الآخر هو ضوء القرص الصلب لجهاز الكمبيوتر العادي. يتم تثبيت أربعة من هذه الأزرار والأضواء مباشرة على الورق المقوى بأربعة براغي.

لا يوجد أي شيء يتم إدخاله في موضع بطاقة الرسومات، كما أن فتحات التوسيع الأخرى فارغة أيضًا.

لا يوجد سوى بطاقة شبكة واحدة وكابل شبكة واحد.

وحدة المعالجة المركزية هي بن الثاني.

هذا ما تبدو عليه اللوحة الأم بأكملها.

يحتوي جهاز HP Switch هذا على إجمالي 80 خطًا واردًا.

تحتوي هذه الخزانة على 20 طابقًا. ويغطى كل رف بطبقة من ألواح الصنوبر، توضع عليها أربع ألواح رئيسية متماثلة، ويوضع في وسطها أربعة محركات أقراص صلبة.

يوجد أيضًا واحد موجود في مركز زوار Google.

في الأيام الأولى للإنترنت، وبسرعة كبيرة، أصبح البحث أمرًا مفيدًا وواعدًا. في ذلك الوقت، كانت محركات البحث المحتكرة هي Lycos وAltaVista وInfoSeek وما إلى ذلك، والتي كانت تشبه إلى حد كبير الشركات النموذجية الحديثة واسعة النطاق التي تقاتل من أجل الهيمنة.

ولكن كما هو الحال مع الشركات النموذجية الكبيرة اليوم، تستخدم شركات البحث هذه نظام Sun Micro وخوادم متطورة مثل HP، والتي تتمتع باستقرار من الدرجة الأولى وتكلفة مذهلة. كان تشغيل محرك البحث عملاً مكلفًا في ذلك الوقت. ومع استمرار ارتفاع حركة المرور، ترتفع التكلفة أيضًا بشكل مثير للقلق. في الوقت نفسه، نظرًا لمحدودية قوة الحوسبة، لا يزال بحثهم بحثًا أساسيًا، وهو جدول الفهرس العكسي للنص، ويكون تأثير البحث متوسطًا.

فكرت Google في الأصل في خوارزمية PageRank، والتي تهدف إلى حساب أهمية صفحة الويب بناءً على وزن الروابط من صفحات الويب الأخرى. هذه فكرة جيدة، ولكنها تتطلب الكثير من القوة الحاسوبية لتحقيقها، وهذه العملية مشابهة بشكل أساسي للنموذج الكبير الحالي لحساب متجه النص. إذا كنت أرغب في معرفة وزن صفحة ويب، فأنا بحاجة إلى قراءة الويب بالكامل لمعرفة صفحات الويب الأخرى التي تشير إلى صفحة الويب هذه، ووزن صفحات الويب هذه، ويجب حساب وزن صفحات الويب هذه مرة أخرى باستخدام هذا المنطق، والتي تكاد تكون حلقة لا نهاية لها نفس متطلبات طاقة الحوسبة.

الحل الذي قدمته جوجل لم يشترِ خادمًا متطورًا بتكلفة عشرات الآلاف من الدولارات من الشركة المصنعة المضيفة الصحيحة الوحيدة في ذلك الوقت، بل وضع أربع لوحات أم صغيرة على قطعة من ورق الفلين، ثم ربط قرصًا ثابتًا، وتوصيل بطاقة شبكة، وانتهى الأمر.

من الواضح أن هذا النوع من الاستقرار يختلف كثيرًا عن الإطار الرئيسي للشركة المصنعة. لذلك، تستخدم Google برنامجًا لإنشاء نظام ملفات يتم توزيعه بواسطة Google File، مما يسمح بإعادة كتابة الملفات في أماكن متعددة. وفي حالة تعطل أي جهاز، يمكن إعادة بناء البيانات في أماكن أخرى على الفور، بحيث تتعجل وتحطم القليل منها " أجهزة الكمبيوتر الصغيرة" لا تتأثر. ومن خلال إضافة إطار MapReduce الخاص بنا، يمكن توزيع الحوسبة (الخريطة) على أجهزة الكمبيوتر الصغيرة هذه، ثم يتم تجميع النتائج (تقليل)، بحيث يمكن إضافة قوة الحوسبة للعديد من أجهزة الكمبيوتر معًا دون استخدام جهاز كمبيوتر واحد أو عدة أجهزة كمبيوتر. كمبيوتر قوي جدا .

باختصار، بعد هذا القدر الكبير من القذف، وبسبب الأجهزة الرخيصة، والقدرة الحاسوبية الكافية، والتخزين الرخيص، يكفي جوجل لدعم استهلاك الطاقة الحاسوبية الضخمة لنظام PageRank، وسرعان ما هزم العملاق في ذلك الوقت من محطة صغيرة غير معروفة في جامعة ستانفورد، أصبح جوجل اليوم. لذلك، من وجهة نظر معينة، تعد ميزة التكلفة الهائلة للأجهزة مقابل البرامج عاملاً لا يمكن تجاهله في نجاح Google المبكر.

هل سيلهم هذا التاريخ مشهد الذكاء الاصطناعي الحالي؟

من المؤكد أن نموذج ChatGPT من OpenAI المضاف إلى بطاقة الرسومات Nvdia V100 ساعدنا على إكمال الخطوة الأولى من لا شيء إلى شيء ما، من رؤية الإمكانية إلى إثبات الإمكانية، تمامًا مثل محرك البحث الباهظ الثمن الذي أنشأته خدمة Lycos نفسها. ومع ذلك، هل هناك طريقة مثل Google، تتيح إمكانية استخدام البرامج لتقليل تكاليف الأجهزة بشكل جنوني؟ بالطبع، لقد تجاوزنا عصر الخوادم المصنوعة يدويًا، ولا يبدو أن لحام وحدة معالجة الرسومات باستخدام مكواة لحام طريقة موثوقة (لم تفعل Google ذلك في ذلك الوقت، ولكنها استخدمت وحدة المعالجة المركزية Intel Pentium II مباشرة)، ولكن هل سيكون هناك ماذا عن بعض الحلول المذهلة التي يمكن أن تقلل التكاليف على نطاق واسع؟

أنا لست عارضة أزياء كبيرة، ولا أستطيع التفكير في أي حل. ولكن في حالة وجود مثل هذه الخطة، فإنها قد تغير بشكل كبير نمط المنافسة في صناعة النماذج واسعة النطاق.