لقد غادر العديد من المؤلفين الأربعة عشر الذين شاركوا في دراسة اللاما.
في فبراير من هذا العام، تم "فتح المصدر" لسلسلة نماذج كبيرة جديدة لـ Meta - Llama (نموذج لغة كبير Meta AI)، مع معلمات تتراوح من 7 مليار إلى 65 مليار. وبعد بضعة أشهر، فتح إطلاق Llama 2 المجال أمام تسويق النماذج الكبيرة، ووصف العديد من الأشخاص المصدر المفتوح لـ Llama 2 بأنه "لحظة Android" للنماذج الكبيرة.
نظرًا للأداء الممتاز لنماذج سلسلة Llama وLlama 2، يعتبرها العديد من الأشخاص بدائل مجانية ومفتوحة المصدر للنماذج الأكبر مثل ChatGPT. يشيد الجميع بمساهمات Meta في مجتمع المصادر المفتوحة، لكن بالنسبة لبعض العلماء والمهندسين المشاركين في مشروع Llama، كان هذا الثناء قليلًا جدًا ومتأخرًا جدًا.
وبحسب موقع The Information، قال أشخاص مطلعون على الوضع الداخلي إن العديد من الأشخاص المشاركين في مشروع Llama استقالوا بسبب صراع داخلي بين فريق بحث آخر في Meta وفريق Llama حول الموارد الحاسوبية، وكان الفريق يعمل على نموذج منافس، ولكن لسبب غير معروف انتهى الأمر بالتخلي عنه.
في حين أن هذا مجرد اكتشاف من أحد المطلعين، فإن رحيلهم هو تذكير بأن شركات التكنولوجيا الكبيرة والصغيرة تتصارع مع التوترات الناجمة عن نقص موارد الحوسبة أثناء تطويرها نماذج للذكاء الاصطناعي التوليدي، الأمر الذي يتطلب شرائح مخصصة، وهذه الرقائق ليست كذلك. المقدمة مجانا. تمتلك شركات التكنولوجيا الكبرى موارد حاسوبية أكثر من معظمها، وهي حقيقة تؤكدها بعض الشركات مثل Meta عند توظيف باحثين في مجال الذكاء الاصطناعي.
ونحن نرى أنه حتى الشركات الكبيرة لديها موارد محدودة. ويسلط هذا النزوح الضوء أيضًا على التحديات التي تواجهها شركات التكنولوجيا الكبرى في الاحتفاظ بمواهب الذكاء الاصطناعي مع ارتفاع الطلب على مواهب الذكاء الاصطناعي.
اللاما: نُشرت هذه الورقة البحثية "LLaMA: نماذج لغة أساسية مفتوحة وفعالة" في فبراير من هذا العام. هناك 14 مؤلفًا. الآن استقال العديد منهم. ذهب بعضهم إلى شركات ناشئة جديدة، وبدأ البعض الآخر في ريادة الأعمال.
عنوان الورقة:
دعونا نلقي نظرة على أولئك الذين استقالوا.
غوتييه إيزاكارد
بدأ Gautier Izacard العمل في Meta في عام 2020 وسيترك Meta في أبريل 2023 للانضمام إلى شركة Inflection AI الناشئة في عام 2022.
تتمتع شركة Inflection AI بخبرة واسعة، ومؤسسوها الثلاثة هم المؤسس المشارك الأصلي لشركة DeepMind مصطفى سليمان، والمؤسس المشارك لـ Linkedln ريد هوفمان، وكبيرة العلماء السابقة في DeepMind كارين سيمونيان. وفي يونيو من هذا العام، أعلنت Inflection AI أيضًا أن الشركة جمعت 1.3 مليار دولار في جولة جديدة من التمويل، بقيادة Microsoft وNvidia وReid Hoffman وBill Gates والرئيس التنفيذي السابق لشركة Google Eric Schmidt.
* ثلاثة من مؤسسي Inflection AI. *
تيموثي لاكروا
انضم تيموثي لاكروا إلى مختبر Facebook AI Research Lab في عام 2015 كمهندس أبحاث. وفي يونيو 2023، غادر شركة Meta (فيسبوك) وانضم إلى الشركة الفرنسية الناشئة Mistral AI كرئيس تنفيذي للتكنولوجيا (CTO).
أرماند جولين
حصل أرماند جولين على درجة الدكتوراه في عام 2012 من INRIA وENS. في عام 2014، انضم أرماند جولين إلى شركة Meta وعمل على التوالي كعالم أبحاث ومدير أبحاث أول ومدير أبحاث. قبل انضمامه إلى ميتا، كان أرماند باحثًا في مرحلة ما بعد الدكتوراه في جامعة ستانفورد، حيث عمل مع دافني كولر وفاي-في لي. سيغادر أرماند جولين ميتا في مايو 2023.
غيوم لامبل
غيوم لامبل هو الآن المؤسس المشارك وكبير العلماء في شركة ميسترال للذكاء الاصطناعي. لقد غادر ميتا في مارس/آذار من هذا العام، بعد أن عمل هنا لأكثر من ست سنوات. وكان منصبه السابق في ميتا هو عالم أبحاث.
حصل غيوم لامبل على درجة الماجستير من جامعة كارنيجي ميلون ودرجة الدكتوراه من جامعة باريس السادسة.
وأخيرًا، نقدم لكم الشركة الناشئة Mistral AI، والتي تم تأسيسها في مايو من هذا العام. تركز المنظمة بشكل أساسي على البحث والتطوير لنماذج الذكاء الاصطناعي التوليدية وتتنافس مع OpenAI. يشمل المؤسسون آرثر مينش (والرئيس التنفيذي)، وغيوم لامبل (كبير العلماء)، وتيموثي لاكروا هو الرئيس التنفيذي للتكنولوجيا.
وفقًا لـ Techcrunch، فإنهم يخططون لإصدار أول نموذج ذكاء اصطناعي قائم على النصوص في عام 2024. وفي يونيو من هذا العام، حصلت شركة ميسترال للذكاء الاصطناعي، التي كان عمرها أربعة أسابيع فقط، على 113 مليون دولار أمريكي في جولة تمويل أولية.
تم تقديم Guillaume Lample و Timothee Lacroix في وقت سابق. عمل آرثر مينش، بصفته الرئيس التنفيذي، في شركة DeepMind (التي تم دمجها الآن في Google DeepMind) لأكثر من عامين وشارك في البحث عن Flamingo، وهو نموذج للغة المرئية.
مراجع:
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تعرضت ميتا لقتال داخلي شرس بسبب سرقة موارد الحوسبة، وغادر العديد من مؤلفي اللاما
** المحررون: شياوتشو، تشن بينغ **
في فبراير من هذا العام، تم "فتح المصدر" لسلسلة نماذج كبيرة جديدة لـ Meta - Llama (نموذج لغة كبير Meta AI)، مع معلمات تتراوح من 7 مليار إلى 65 مليار. وبعد بضعة أشهر، فتح إطلاق Llama 2 المجال أمام تسويق النماذج الكبيرة، ووصف العديد من الأشخاص المصدر المفتوح لـ Llama 2 بأنه "لحظة Android" للنماذج الكبيرة.
نظرًا للأداء الممتاز لنماذج سلسلة Llama وLlama 2، يعتبرها العديد من الأشخاص بدائل مجانية ومفتوحة المصدر للنماذج الأكبر مثل ChatGPT. يشيد الجميع بمساهمات Meta في مجتمع المصادر المفتوحة، لكن بالنسبة لبعض العلماء والمهندسين المشاركين في مشروع Llama، كان هذا الثناء قليلًا جدًا ومتأخرًا جدًا.
وبحسب موقع The Information، قال أشخاص مطلعون على الوضع الداخلي إن العديد من الأشخاص المشاركين في مشروع Llama استقالوا بسبب صراع داخلي بين فريق بحث آخر في Meta وفريق Llama حول الموارد الحاسوبية، وكان الفريق يعمل على نموذج منافس، ولكن لسبب غير معروف انتهى الأمر بالتخلي عنه.
في حين أن هذا مجرد اكتشاف من أحد المطلعين، فإن رحيلهم هو تذكير بأن شركات التكنولوجيا الكبيرة والصغيرة تتصارع مع التوترات الناجمة عن نقص موارد الحوسبة أثناء تطويرها نماذج للذكاء الاصطناعي التوليدي، الأمر الذي يتطلب شرائح مخصصة، وهذه الرقائق ليست كذلك. المقدمة مجانا. تمتلك شركات التكنولوجيا الكبرى موارد حاسوبية أكثر من معظمها، وهي حقيقة تؤكدها بعض الشركات مثل Meta عند توظيف باحثين في مجال الذكاء الاصطناعي.
ونحن نرى أنه حتى الشركات الكبيرة لديها موارد محدودة. ويسلط هذا النزوح الضوء أيضًا على التحديات التي تواجهها شركات التكنولوجيا الكبرى في الاحتفاظ بمواهب الذكاء الاصطناعي مع ارتفاع الطلب على مواهب الذكاء الاصطناعي.
اللاما: نُشرت هذه الورقة البحثية "LLaMA: نماذج لغة أساسية مفتوحة وفعالة" في فبراير من هذا العام. هناك 14 مؤلفًا. الآن استقال العديد منهم. ذهب بعضهم إلى شركات ناشئة جديدة، وبدأ البعض الآخر في ريادة الأعمال.
دعونا نلقي نظرة على أولئك الذين استقالوا.
غوتييه إيزاكارد
تتمتع شركة Inflection AI بخبرة واسعة، ومؤسسوها الثلاثة هم المؤسس المشارك الأصلي لشركة DeepMind مصطفى سليمان، والمؤسس المشارك لـ Linkedln ريد هوفمان، وكبيرة العلماء السابقة في DeepMind كارين سيمونيان. وفي يونيو من هذا العام، أعلنت Inflection AI أيضًا أن الشركة جمعت 1.3 مليار دولار في جولة جديدة من التمويل، بقيادة Microsoft وNvidia وReid Hoffman وBill Gates والرئيس التنفيذي السابق لشركة Google Eric Schmidt.
تيموثي لاكروا
أرماند جولين
غيوم لامبل
حصل غيوم لامبل على درجة الماجستير من جامعة كارنيجي ميلون ودرجة الدكتوراه من جامعة باريس السادسة.
وأخيرًا، نقدم لكم الشركة الناشئة Mistral AI، والتي تم تأسيسها في مايو من هذا العام. تركز المنظمة بشكل أساسي على البحث والتطوير لنماذج الذكاء الاصطناعي التوليدية وتتنافس مع OpenAI. يشمل المؤسسون آرثر مينش (والرئيس التنفيذي)، وغيوم لامبل (كبير العلماء)، وتيموثي لاكروا هو الرئيس التنفيذي للتكنولوجيا.
تم تقديم Guillaume Lample و Timothee Lacroix في وقت سابق. عمل آرثر مينش، بصفته الرئيس التنفيذي، في شركة DeepMind (التي تم دمجها الآن في Google DeepMind) لأكثر من عامين وشارك في البحث عن Flamingo، وهو نموذج للغة المرئية.