في الآونة الأخيرة ، ألقى Andrej Karpathy ، المؤسس المشارك لـ OpenAI ، خطابًا قصيرًا في حدث للمطورين ، تحدث عن وجهات نظره الداخلية و OpenAI حول وكلاء الذكاء الاصطناعي (وكلاء الذكاء الاصطناعي).
قارن Andrej Karpathy الصعوبات في تطوير وكلاء الذكاء الاصطناعي في الماضي بالفرص الجديدة التي تم تطويرها في ظل الأدوات التكنولوجية الجديدة ، ولم ينس السخرية من عمله في Tesla لأنه كان "يشتت انتباهه بواسطة الطيار الآلي". يرى القيادة الذاتية والواقع الافتراضي كأمثلة على عوامل الذكاء الاصطناعي السيئة.
للحصول على فرص جديدة ، يعتقد Andrej Karpathy أن هذه هي اللحظة المناسبة للعودة إلى علم الأعصاب مرة أخرى والبحث عن الإلهام منه - تمامًا مثل ما حدث في الأيام الأولى من التعلم العميق.
من ناحية أخرى ، يعتقد Andrej Karpathy أن الأشخاص العاديين ورجال الأعمال والمهوسون يتمتعون بمزايا أكثر من شركات مثل OpenAI في بناء وكلاء الذكاء الاصطناعي. الجميع حاليًا في حالة من المنافسة المتساوية ، لذلك فهو يتطلع إلى رؤية النتائج في هذا الصدد.
فيما يلي النص الكامل لهذه المشاركة:
أهلا بالجميع. لقد دعيت للتحدث ببعض الكلمات التحفيزية حول موضوع وكلاء الذكاء الاصطناعي.
أعتقد أن وكلاء الذكاء الاصطناعي قريبون مني بطريقة ما ، اسمحوا لي أن أبدأ بقصة ، هذه قصة أوبن إيه آي مبكرة جدًا ، ربما لا يزيد عن عشرة أشخاص في ذلك الوقت ، حوالي عام 2016 ، في ذلك الوقت كان الاتجاه في الواقع وكلاء RL ( وكلاء التعلم التعزيزي). كان الجميع مهتمًا جدًا بوكلاء البناء ، ولكن في ذلك الوقت كان الأمر في الغالب قائمًا على الألعاب ، وكانت الإثارة حول شركات الألعاب مثل Atari ، وكان مشروعي في OpenAI يحاول تركيز وكلاء RL على لوحات المفاتيح ويتم استخدام الماوس على الكمبيوتر وليس اللعبة. أريد أن أجعلهم أكثر فائدة وأقوم بالكثير من العمل ، المشروع يسمى عالم البتات. انتهى بي الأمر أنا وعدد قليل من الزملاء بنشر بحث.
إنه ليس مقالًا رائعًا ، لأنه يعتمد في الواقع على أساليب التعلم المعززة لـ RL. صفحات الويب الخاصة بنا بسيطة للغاية وتسمح للأشخاص بحجز رحلة طيران أو طلب بعض الطعام وما إلى ذلك. من الواضح أن أياً من هذا لم ينجح لأن التكنولوجيا لم تكن جاهزة ولن يكون من الحكمة القيام بهذه الأشياء في ذلك الوقت. لقد أثبتت الحقائق أننا يجب أن ننسى تمامًا وكلاء الذكاء الاصطناعي ونقوم بعمل نماذج لغوية.
عدنا إلى هنا بعد خمس سنوات ، وكنت مشتتًا قليلاً بالقيادة الذاتية ، ولكن الآن بعد أن أصبح وكلاء الذكاء الاصطناعي رائعين مرة أخرى ، فإن صندوق أدواتنا مختلف تمامًا ، والطريقة التي نتعامل بها مع هذه المشاكل مختلفة تمامًا. في الواقع ، يعمل جميعكم على وكلاء الذكاء الاصطناعي ، ولكن قد لا تستخدمون أي أساليب تعلم معزز. إنه جنون ، لا أعتقد أننا كنا سنرى هذا قادمًا. لقد كانت ممتعة للغاية.
اسمحوا لي أن أتحدث عن سبب شهرة وكلاء الذكاء الاصطناعي. أعتقد أنه من الواضح للكثيرين أن الذكاء العام الاصطناعي (AGI) سيستفيد استفادة كاملة من قدرات وكلاء الذكاء الاصطناعي ، ليس واحدًا ، بل كثيرين. ربما ستكون هناك منظمات أو حضارات للكيانات الرقمية ، والتي أعتقد أنها ملهمة للغاية ، بل مجنونة بعض الشيء. ومع ذلك ، أريد أيضًا أن أرمي بعض الماء البارد على هذا. أعتقد أن هناك فئة كاملة من المشاكل التي يسهل تخيلها ، سهلة البناء ، سهلة العرض ، ولكن من الصعب حقًا صنع منتج. تندرج الكثير من الأشياء في هذه الفئة ، وأعتقد أن القيادة الذاتية هي مثال.
من السهل تخيل القيادة الذاتية ، ومن السهل إنشاء عرض توضيحي لسيارة تسير حول كتلة ، لكن الأمر استغرق عقدًا لتحويل ذلك إلى منتج. بالطريقة نفسها ، أعتقد أن الأمر نفسه مع الواقع الافتراضي ، سيستغرق الأمر عقدًا لإنجاحه.
أعتقد أن الأمر نفسه ينطبق إلى حد ما على وكلاء الذكاء الاصطناعي. من السهل تخيل سيناريوهات لذلك ، وهو أمر مثير للغاية ، لكنني أعتقد أنه إذا كنت تشارك فيه ، فيجب أن تستثمر عقدًا فيه لتنجح بالفعل.
شيء آخر أريد أن أقوله هو أنني أعتقد أنه من المثير للاهتمام العودة إلى علم الأعصاب الآن والاستلهام منه مرة أخرى من بعض النواحي ، كانت الأيام الأولى للتعلم العميق مستوحاة من علم الأعصاب. من المثير للاهتمام التفكير في العلاقة بينهما ، خاصةً أعتقد أن الكثير من الناس ينظرون إلى نماذج اللغة كجزء من الحل ، ولكن كيف يمكنك بناء كيان رقمي كامل لديه كل القدرات المعرفية للبشر؟ من الواضح أننا نتفق جميعًا على أننا بحاجة إلى نوع من النظام الأساسي للتخطيط والتفكير والتفكير فيما نقوم به ، وهنا يأتي دور علم الأعصاب.
على سبيل المثال ، يعد الحُصين مهمًا جدًا ، فما الذي يلعبه وكلاء الذكاء الاصطناعي في دور الحُصين ، والذي يُستخدم لتخزين الذاكرة ، وعلامة الاسترجاع ، وما إلى ذلك؟ لدينا فهم عام لكيفية بناء القشرة السمعية والبصرية ، ولكن هناك العديد من الأشياء التي لا نعرف ما تعنيه في وكلاء الذكاء الاصطناعي. مثل كيف تبدو اللعبة المرئية في AI Agents؟ ما هو المعادل للمهاد ، موقع العقل الباطن ، في وكلاء الذكاء الاصطناعي؟ انه مشوق جدا.
لقد أحضرت معي اليوم كتابًا عن علم الأعصاب ، الدماغ والسلوك من تأليف ديفيد إيجلمان ، وجدته ممتعًا ومفيدًا للغاية. أخذ بعض الإلهام المثير للاهتمام من علم الأعصاب ، كما فعلنا في الأيام الأولى عندما صممنا الخلايا العصبية الفردية ، ربما ينبغي علينا القيام بذلك مرة أخرى اليوم.
أخيرًا ، أود أن أختم ببعض كلمات التشجيع. الشيء المثير للاهتمام ولكن ليس واضحًا هو أن وكلاء الذكاء الاصطناعي الذين تنشئهم (في إشارة إلى الجمهور المباشر) هم في الواقع في طليعة قدرات وكلاء الذكاء الاصطناعي المعاصرين.جميع مؤسسات LLM الكبيرة مثل OpenAI و DeFi وما إلى ذلك ، أنا أشك في أنهم في الطليعة. أنت في الطليعة.
على سبيل المثال ، OpenAI جيد جدًا في تدريب نماذج اللغات الكبيرة لـ Transformer. إذا اقترحت ورقة بحثية نوعًا من طرق التدريب المختلفة ، فستكون المناقشة في مجموعة Slack داخل OpenAI مثل ، نعم ، لقد جربها شخص ما لمدة عامين ونصف ولم تنجح ، فنحن لسنا مهتمين بهذه الطريقة فهم شديد للخصائص والمخارج. ولكن عندما صدرت ورقة وكلاء الذكاء الاصطناعي الجديدة ، كنا مهتمين جدًا واعتقدنا أنها كانت رائعة جدًا ، لأن فريقنا لم يمض خمس سنوات عليها ، ولا نعرف أي شيء أكثر منك ، فنحن نعمل معكم جميعًا يتنافس الناس معًا. هذا هو سبب الاعتقاد بأنك في طليعة ما يمكن أن يفعله وكلاء الذكاء الاصطناعي.
شاهد النسخة الأصلية
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
شارك المؤسس المشارك لـ OpenAI Karpathy قائلاً: قد يستغرق وكلاء الذكاء الاصطناعي 10 سنوات للعمل حقًا
تنظيم: حساب Twitter "GPTDAOCN"
في الآونة الأخيرة ، ألقى Andrej Karpathy ، المؤسس المشارك لـ OpenAI ، خطابًا قصيرًا في حدث للمطورين ، تحدث عن وجهات نظره الداخلية و OpenAI حول وكلاء الذكاء الاصطناعي (وكلاء الذكاء الاصطناعي).
قارن Andrej Karpathy الصعوبات في تطوير وكلاء الذكاء الاصطناعي في الماضي بالفرص الجديدة التي تم تطويرها في ظل الأدوات التكنولوجية الجديدة ، ولم ينس السخرية من عمله في Tesla لأنه كان "يشتت انتباهه بواسطة الطيار الآلي". يرى القيادة الذاتية والواقع الافتراضي كأمثلة على عوامل الذكاء الاصطناعي السيئة.
للحصول على فرص جديدة ، يعتقد Andrej Karpathy أن هذه هي اللحظة المناسبة للعودة إلى علم الأعصاب مرة أخرى والبحث عن الإلهام منه - تمامًا مثل ما حدث في الأيام الأولى من التعلم العميق.
من ناحية أخرى ، يعتقد Andrej Karpathy أن الأشخاص العاديين ورجال الأعمال والمهوسون يتمتعون بمزايا أكثر من شركات مثل OpenAI في بناء وكلاء الذكاء الاصطناعي. الجميع حاليًا في حالة من المنافسة المتساوية ، لذلك فهو يتطلع إلى رؤية النتائج في هذا الصدد.
أهلا بالجميع. لقد دعيت للتحدث ببعض الكلمات التحفيزية حول موضوع وكلاء الذكاء الاصطناعي.
أعتقد أن وكلاء الذكاء الاصطناعي قريبون مني بطريقة ما ، اسمحوا لي أن أبدأ بقصة ، هذه قصة أوبن إيه آي مبكرة جدًا ، ربما لا يزيد عن عشرة أشخاص في ذلك الوقت ، حوالي عام 2016 ، في ذلك الوقت كان الاتجاه في الواقع وكلاء RL ( وكلاء التعلم التعزيزي). كان الجميع مهتمًا جدًا بوكلاء البناء ، ولكن في ذلك الوقت كان الأمر في الغالب قائمًا على الألعاب ، وكانت الإثارة حول شركات الألعاب مثل Atari ، وكان مشروعي في OpenAI يحاول تركيز وكلاء RL على لوحات المفاتيح ويتم استخدام الماوس على الكمبيوتر وليس اللعبة. أريد أن أجعلهم أكثر فائدة وأقوم بالكثير من العمل ، المشروع يسمى عالم البتات. انتهى بي الأمر أنا وعدد قليل من الزملاء بنشر بحث.
إنه ليس مقالًا رائعًا ، لأنه يعتمد في الواقع على أساليب التعلم المعززة لـ RL. صفحات الويب الخاصة بنا بسيطة للغاية وتسمح للأشخاص بحجز رحلة طيران أو طلب بعض الطعام وما إلى ذلك. من الواضح أن أياً من هذا لم ينجح لأن التكنولوجيا لم تكن جاهزة ولن يكون من الحكمة القيام بهذه الأشياء في ذلك الوقت. لقد أثبتت الحقائق أننا يجب أن ننسى تمامًا وكلاء الذكاء الاصطناعي ونقوم بعمل نماذج لغوية.
عدنا إلى هنا بعد خمس سنوات ، وكنت مشتتًا قليلاً بالقيادة الذاتية ، ولكن الآن بعد أن أصبح وكلاء الذكاء الاصطناعي رائعين مرة أخرى ، فإن صندوق أدواتنا مختلف تمامًا ، والطريقة التي نتعامل بها مع هذه المشاكل مختلفة تمامًا. في الواقع ، يعمل جميعكم على وكلاء الذكاء الاصطناعي ، ولكن قد لا تستخدمون أي أساليب تعلم معزز. إنه جنون ، لا أعتقد أننا كنا سنرى هذا قادمًا. لقد كانت ممتعة للغاية.
اسمحوا لي أن أتحدث عن سبب شهرة وكلاء الذكاء الاصطناعي. أعتقد أنه من الواضح للكثيرين أن الذكاء العام الاصطناعي (AGI) سيستفيد استفادة كاملة من قدرات وكلاء الذكاء الاصطناعي ، ليس واحدًا ، بل كثيرين. ربما ستكون هناك منظمات أو حضارات للكيانات الرقمية ، والتي أعتقد أنها ملهمة للغاية ، بل مجنونة بعض الشيء. ومع ذلك ، أريد أيضًا أن أرمي بعض الماء البارد على هذا. أعتقد أن هناك فئة كاملة من المشاكل التي يسهل تخيلها ، سهلة البناء ، سهلة العرض ، ولكن من الصعب حقًا صنع منتج. تندرج الكثير من الأشياء في هذه الفئة ، وأعتقد أن القيادة الذاتية هي مثال.
من السهل تخيل القيادة الذاتية ، ومن السهل إنشاء عرض توضيحي لسيارة تسير حول كتلة ، لكن الأمر استغرق عقدًا لتحويل ذلك إلى منتج. بالطريقة نفسها ، أعتقد أن الأمر نفسه مع الواقع الافتراضي ، سيستغرق الأمر عقدًا لإنجاحه.
أعتقد أن الأمر نفسه ينطبق إلى حد ما على وكلاء الذكاء الاصطناعي. من السهل تخيل سيناريوهات لذلك ، وهو أمر مثير للغاية ، لكنني أعتقد أنه إذا كنت تشارك فيه ، فيجب أن تستثمر عقدًا فيه لتنجح بالفعل.
شيء آخر أريد أن أقوله هو أنني أعتقد أنه من المثير للاهتمام العودة إلى علم الأعصاب الآن والاستلهام منه مرة أخرى من بعض النواحي ، كانت الأيام الأولى للتعلم العميق مستوحاة من علم الأعصاب. من المثير للاهتمام التفكير في العلاقة بينهما ، خاصةً أعتقد أن الكثير من الناس ينظرون إلى نماذج اللغة كجزء من الحل ، ولكن كيف يمكنك بناء كيان رقمي كامل لديه كل القدرات المعرفية للبشر؟ من الواضح أننا نتفق جميعًا على أننا بحاجة إلى نوع من النظام الأساسي للتخطيط والتفكير والتفكير فيما نقوم به ، وهنا يأتي دور علم الأعصاب.
على سبيل المثال ، يعد الحُصين مهمًا جدًا ، فما الذي يلعبه وكلاء الذكاء الاصطناعي في دور الحُصين ، والذي يُستخدم لتخزين الذاكرة ، وعلامة الاسترجاع ، وما إلى ذلك؟ لدينا فهم عام لكيفية بناء القشرة السمعية والبصرية ، ولكن هناك العديد من الأشياء التي لا نعرف ما تعنيه في وكلاء الذكاء الاصطناعي. مثل كيف تبدو اللعبة المرئية في AI Agents؟ ما هو المعادل للمهاد ، موقع العقل الباطن ، في وكلاء الذكاء الاصطناعي؟ انه مشوق جدا.
لقد أحضرت معي اليوم كتابًا عن علم الأعصاب ، الدماغ والسلوك من تأليف ديفيد إيجلمان ، وجدته ممتعًا ومفيدًا للغاية. أخذ بعض الإلهام المثير للاهتمام من علم الأعصاب ، كما فعلنا في الأيام الأولى عندما صممنا الخلايا العصبية الفردية ، ربما ينبغي علينا القيام بذلك مرة أخرى اليوم.
أخيرًا ، أود أن أختم ببعض كلمات التشجيع. الشيء المثير للاهتمام ولكن ليس واضحًا هو أن وكلاء الذكاء الاصطناعي الذين تنشئهم (في إشارة إلى الجمهور المباشر) هم في الواقع في طليعة قدرات وكلاء الذكاء الاصطناعي المعاصرين.جميع مؤسسات LLM الكبيرة مثل OpenAI و DeFi وما إلى ذلك ، أنا أشك في أنهم في الطليعة. أنت في الطليعة.
على سبيل المثال ، OpenAI جيد جدًا في تدريب نماذج اللغات الكبيرة لـ Transformer. إذا اقترحت ورقة بحثية نوعًا من طرق التدريب المختلفة ، فستكون المناقشة في مجموعة Slack داخل OpenAI مثل ، نعم ، لقد جربها شخص ما لمدة عامين ونصف ولم تنجح ، فنحن لسنا مهتمين بهذه الطريقة فهم شديد للخصائص والمخارج. ولكن عندما صدرت ورقة وكلاء الذكاء الاصطناعي الجديدة ، كنا مهتمين جدًا واعتقدنا أنها كانت رائعة جدًا ، لأن فريقنا لم يمض خمس سنوات عليها ، ولا نعرف أي شيء أكثر منك ، فنحن نعمل معكم جميعًا يتنافس الناس معًا. هذا هو سبب الاعتقاد بأنك في طليعة ما يمكن أن يفعله وكلاء الذكاء الاصطناعي.