مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود
أحنت إيليا سوتسكيفر رأسها وسقطت في تفكير عميق. ينشر ذراعيه وأصابعه على الطاولة ، مثل عازف البيانو على وشك عزف نوتته الأولى. جلسنا بهدوء.
جئت إلى شارع غامض في منطقة ميشن في سان فرانسيسكو للقاء المؤسس المشارك لشركة OpenAI وكبير العلماء Sutskever في مبنى مكاتب لا يوصف للاستماع إلى الخطوات التالية في هذه التكنولوجيا المتغيرة للعالم التي يروج لها. أود أيضا أن أعرف ما هي خطواته التالية ، وعلى وجه الخصوص لماذا لم يعد تركيزه على بناء الجيل التالي من النموذج التوليدي الرائد للشركة.
أخبرني سوتسكيفر أن أولويته الجديدة ليست بناء الجيل التالي من GPT أو نموذج صنع الصور DALL-E ، ولكن لمعرفة كيفية منع الذكاء الاصطناعي من الخروج عن السيطرة.
أخبرني سوتسكيفر بالكثير من الأشياء الأخرى. يعتقد أن ChatGPT قد يكون واعيا. وهو يعتقد أن العالم بحاجة إلى إدراك القوة الحقيقية للتكنولوجيا التي تتنافس OpenAI والشركات الأخرى على إنشائها. إنه يعتقد أنه في يوم من الأيام سيختار بعض البشر الاندماج مع الآلات.
الكثير مما يقوله سوتسكيفر مجنون. ولكن ليس مجنونا كما بدا قبل عام أو عامين. كما أخبرني هو نفسه ، أعاد ChatGPT كتابة الكثير من توقعات الناس لما هو قادم ، من "لن يحدث أبدا" إلى "سيحدث في وقت أقرب مما تعتقد".
قبل التنبؤ بتطور الذكاء الاصطناعي العام AGI (يشير إلى آلات ذكية مثل البشر) ، قال: "من المهم مناقشة أين يسير كل شيء كما لو كان مثل المراهنة على iPhone التالي:" في مرحلة ما ، سيكون لدينا حقا AGI. ربما تم بناؤه بواسطة OpenAI ، وربما يكون شيئا آخر. "
منذ الإصدار المفاجئ وغير المتوقع ل ChatGPT في نوفمبر الماضي ، كان النقاش حول OpenAI مثيرا للقلق ، حتى في صناعة معروفة بضجيجها. لن يتعب أحد من مناقشة هذه الشركة الناشئة التي تبلغ قيمتها 80 مليار دولار. يسعى قادة العالم (ويحصلون على) محادثات خاصة أو عامة مع OpenAI. تظهر أسماء منتجات OpenAI في المحادثات غير الرسمية.
أمضى سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، الصيف في رحلة توعية لمدة أسبوع ، حيث انخرط بحماس مع السياسيين وتحدث إلى القاعات المزدحمة في جميع أنحاء العالم. لكن Sutskever ليس شخصية عامة ، ولا يجري الكثير من المقابلات أيضا.
يتحدث بهدوء ومنهجية. عندما يفكر في ما يريد قوله وكيفية التعبير عنه ، يتوقف لفترة طويلة ويفكر في المشكلة مرارا وتكرارا مثل اللغز. لا يبدو مهتما بالحديث عن نفسه. قال: "عشت حياة بسيطة للغاية. اذهب إلى العمل ، ثم اذهب إلى المنزل. لم أفعل الكثير غير ذلك. يمكن للناس الذهاب إلى الكثير من المناسبات الاجتماعية ، يمكنهم الذهاب إلى الكثير من المؤتمرات. لا أحب المشاركة. "
ولكن عندما نتحدث عن الذكاء الاصطناعي، وما يراه مخاطر ومكافآت تاريخية، فإن التوقعات تتسع: "ستكون معلما بارزا ومحطما للأرض". "
أفضل، أفضل، أفضل
حتى بدون OpenAI ، سيظل Sutskever يسجل في سجلات تاريخ الذكاء الاصطناعي. وهو إسرائيلي كندي، ولد في الاتحاد السوفيتي، لكنه نشأ في القدس منذ سن الخامسة (لا يزال يتحدث الروسية والعبرية والإنجليزية). بعد ذلك ، انتقل إلى كندا للدراسة في جامعة تورنتو مع رائد الذكاء الاصطناعي جيفري هينتون ، الذي أعرب في وقت سابق من هذا العام علنا عن مخاوفه بشأن التكنولوجيا الذكاء الاصطناعي التي ساعد Sutskever في اختراعها.
شارك هينتون لاحقا جائزة تورينج مع يان ليكون ويوشوا بينجيو لعمله على الشبكات العصبية. ولكن عندما انضم إليه سوتسكيفر في أوائل عام 2000 ، اعتقد معظم الباحثين الذكاء الاصطناعي أن الشبكات العصبية كانت طريقا مسدودا. هينتون هو استثناء. إنه يقوم بالفعل بتدريب النماذج الدقيقة التي يمكنها إنشاء سلاسل نصية قصيرة من حرف واحد في كل مرة ، ويقول Sutskever ، "هذا هو المكان الذي يبدأ فيه الذكاء الاصطناعي التوليدي". إنه رائع حقا - ليس رائعا. "
Sutskever مفتون ببناء الدماغ: كيف يتعلم الدماغ ، وكيف يمكنه إعادة إنشاء أو على الأقل تقليد العملية في الآلة. مثل هينتون ، رأى إمكانات الشبكات العصبية وتقنية التجربة والخطأ التي استخدمها هينتون لتدريب الشبكات العصبية ، وهي التعلم العميق. "التعلم العميق يتحسن بشكل أفضل طوال الوقت" ، يقول Sutskever.
في عام 2012 ، قام Sutskever و Hinton وطالب دراسات عليا آخر في Hinton ، Alex Krizhevsky ، ببناء شبكة عصبية تسمى AlexNet ، والتي قاموا بتدريبها للتعرف على الأشياء في الصور بشكل أفضل بكثير من أي برنامج آخر في ذلك الوقت. هذه هي لحظة الانفجار العظيم للتعلم العميق.
بعد سنوات من الفشل ، أثبتوا أن الشبكات العصبية فعالة بشكل مثير للدهشة في التعرف على الأنماط. كل ما تحتاجه هو بيانات أكثر مما رآه معظم الباحثين من قبل (في هذه الحالة ، مليون صورة من مجموعة بيانات ImageNet التي قام الباحث في جامعة برينستون Feifei Li ببنائها منذ عام 2006) وكمية مذهلة من طاقة الكمبيوتر.
يأتي التغيير الكبير في الحوسبة من رقائق GPU الجديدة التي تصنعها Nvidia. تم تصميم وحدات معالجة الرسومات لتكون قادرة على عرض مرئيات ألعاب الفيديو سريعة الحركة على الشاشة بسرعة البرق. لكن الحساب الذي تتفوق فيه وحدات معالجة الرسومات - ضرب عدد كبير من الشبكات الرقمية - يشبه إلى حد كبير الحساب اللازم لتدريب شبكة عصبية.
Nvidia هي الآن شركة بقيمة تريليون دولار. في ذلك الوقت ، كان يائسا للعثور على تطبيقات لأجهزة جديدة في مكانها. قال جنسن هوانغ ، الرئيس التنفيذي لشركة Nvidia ، "عندما تخترع تقنية جديدة ، يجب أن تكون قادرا على تبني أفكار مجنونة. كانت عقليتي تبحث دائما عن شيء غريب ، وكانت الشبكات العصبية ستغير فكرة علوم الكمبيوتر - وكانت هذه فكرة غريبة للغاية. "
قال هوانغ إنه عندما عمل فريق تورنتو على AlexNet ، أرسلت لهم Nvidia بعض وحدات معالجة الرسومات لتجربتها. لكنهم أرادوا أحدث إصدار ، شريحة تسمى GTX 580 ، والتي بيعت بسرعة في المتاجر. وفقا لهوانغ ، قاد سوتسكيفر سيارته عبر الحدود من تورنتو إلى نيويورك لشراء بعضها. "يصطف الناس في طابور قاب قوسين أو أدنى من المتجر للشراء. لا أعرف كيف فعل ذلك - أنا متأكد من أنك ستشتري واحدة فقط لكل منهما ؛ لدينا سياسة صارمة للغاية مفادها أنه يمكنك استخدام وحدة معالجة رسومات واحدة فقط لكل لاعب ، ولكن يبدو أنه يملأ صندوقا. هذه الحقيبة المليئة ب GTX 580 غيرت العالم. "
إنها قصة رائعة - ربما ليست صحيحة. لأن Sutskever يصر على أنه اشترى أول وحدات معالجة الرسومات عبر الإنترنت. لكن هذا النوع من الغموض شائع في هذه الصناعة الحيوية. سوتسكيفر نفسه أكثر تواضعا: "أعتقد أنه إذا كان بإمكاني تحقيق أدنى تقدم حقيقي ، فسأعتبره نجاحا". بدا التأثير على العالم الحقيقي بعيدا ، حيث كانت أجهزة الكمبيوتر لا تزال ضعيفة في ذلك الوقت. "
بعد نجاح AlexNet ، جاءت Google تطرق الباب. استحوذت على DNNresearch ، وهي شركة منبثقة عن هينتون ، واستأجرت Sutskever. أظهر Sutskever في Google أنه يمكن تطبيق إمكانات التعرف على أنماط التعلم العميق على تسلسلات البيانات مثل الكلمات والجمل والصور. وقال جيف دين، وهو زميل سابق ل Sutskever وكبير العلماء الآن في Google: "لطالما كان Sutskever مهتما باللغة ، وقد أجرينا مناقشات رائعة على مر السنين. لديه غريزة قوية إلى أين تسير الأمور. "
لكن Sutskever لم يبق في Google لفترة طويلة. في عام 2014 ، تم تجنيده ليصبح المؤسس المشارك ل OpenAI. مع 1 مليار دولار (من Altman و Elon Musk و Peter Thiel و Microsoft و Y Combinator وما إلى ذلك) ، والكثير من روح وادي السيليكون ، وضعت الشركة الجديدة أنظارها على تطوير AGI منذ البداية ، لكن القليل منهم أخذوا الاحتمال على محمل الجد في ذلك الوقت.
مع وجود Sutskever على متن الطائرة ، فإن هذا الموقف المتبجح أمر مفهوم. حتى ذلك الحين ، كان يحصل على المزيد والمزيد من النتائج من تعلم الشبكة العصبية. قال دالتون كالدويل ، العضو المنتدب لشركة Y Combinator Investments ، إن سمعته سبقته ، مما جعله يحقق نجاحا كبيرا.
قال كالدويل: "أتذكر أن ألتمان وصف سوتسكيفر بأنه أحد أكثر الباحثين احتراما في العالم". وهو يعتقد أن Sutskever ستجذب الكثير من أفضل المواهب الذكاء الاصطناعي. حتى أنه ذكر أن يوشوا بينجيو ، أحد كبار خبراء الذكاء الاصطناعي في العالم ، يعتقد أنه من غير المحتمل أن يتم العثور على مرشح أفضل من Sutskever ليكون كبير علماء OpenAI. "
في البداية ، كان OpenAI في مأزق. قال سوتسكيفر: "كان هناك وقت بدأنا فيه OpenAI ، ولم أكن متأكدا تماما من كيفية استمرار التقدم". "لكن لدي اعتقاد واضح جدا بأن الناس لن يعترضوا على التعلم العميق. بطريقة ما ، في كل مرة يصطدمون فيها بعقبة ، يجد الباحثون حلا في غضون ستة أشهر أو سنة. "
تمت مكافأة إيمانه. ظهر أول نموذج لغوي كبير GPT من OpenAI في عام 2016. تبع ذلك GPT-2 و GPT-3. ثم هناك DALL-E ، نموذج تحويل النص إلى صورة المقنع. لم يقم أحد ببناء شيء جيد جدا. مع كل إصدار ، يرفع OpenAI مستوى ما يعتقد الناس أنه ممكن.
إدارة التوقعات
في نوفمبر الماضي ، أصدرت OpenAI روبوت محادثة مجاني أعاد تجميع بعض التقنيات الحالية. يعيد تعيين جدول الأعمال للصناعة بأكملها.
في ذلك الوقت ، لم يكن OpenAI يعرف ما الذي سيصدره. يقول Sutskever إن التوقعات داخل الشركة لا يمكن أن تكون أقل: "سأعترف ، إنه أمر محرج قليلا - لا أعرف ما إذا كان يجب أن أفعل ذلك ، ولكن أيا كان ، إنها حقيقة - لم أكن أعرف ما هو جيد عندما صنعنا ChatGPT ". عندما تسأله سؤالا واقعيا ، فإنه يعطيك إجابة خاطئة. أعتقد أنه سيكون غير واضح للغاية وسيقول الناس ، "لماذا تفعل هذا المنتج؟" انها مملة! '"
الجزء الأكثر جاذبية ، كما يقول Sutskever ، هو الراحة. نموذج اللغة الكبير وراء ChatGPT موجود منذ شهور. لكن تغليفها في واجهة يسهل الوصول إليها ومنحها مجانا جعل مليارات الأشخاص يدركون لأول مرة ما يبنيه OpenAI وغيره.
"كانت التجربة الأولى رائعة. عندما تستخدمه لأول مرة ، أعتقد أنها تجربة روحية تقريبا. أنت مثل ، "يا إلهي ، يبدو أن هذا الكمبيوتر يفهم نفسه". '"
جمعت OpenAI 100 مليون مستخدم في أقل من شهرين ، وقد انبهر الكثير منهم بهذه اللعبة الجديدة المذهلة. لخص آرون ليفي ، الرئيس التنفيذي لشركة التخزين Box ، أجواء الأسبوع التالي للإطلاق على Twitter: "ChatGPT هي واحدة من تلك اللحظات النادرة في مجال التكنولوجيا ، ويمكنك أن ترى أن كل شيء سيكون مختلفا في المستقبل. "
بمجرد أن يقول ChatGPT شيئا غبيا ، تنهار هذه المعجزة. ولكن بعد ذلك لا يهم. لمحة عن الاحتمالات كافية ، كما يقول سوتسكيفر. لقد غير ChatGPT آفاق الناس.
وقال: "لم تعد AGI كلمة قذرة في مجال التعلم الآلي". "إنه تغيير كبير. موقف الناس في التاريخ هو: الذكاء الاصطناعي لا يعمل ، كل خطوة صعبة للغاية ، وعليك أن تقاتل من أجل كل جزء من التقدم. عندما يروج الناس ل AGI ، يقول الباحثون ، "ما الذي تتحدث عنه؟ هذا لا يعمل ، هذا لا يعمل أيضا. هناك الكثير من الأسئلة. ولكن مع ChatGPT ، بدأ الشعور مختلفا. "
هل بدأ هذا التحول يحدث قبل عام واحد فقط؟ قال: "حدث كل ذلك بسبب ChatGPT". "يتيح ChatGPT للباحثين في مجال التعلم الآلي تحقيق أحلامهم."
كان علماء OpenAI مبشرين منذ البداية وكانوا يلهمون هذه الأحلام من خلال منشورات المدونات وجولات المحاضرات. وهي تعمل: "نحن نتحدث عن المدى الذي ستذهب إليه الذكاء الاصطناعي الآن - يتحدث الناس عن الذكاء الاصطناعي العام ، أو الذكاء الفائق. إنهم ليسوا مجرد باحثين. "الحكومات تناقش هذا"، قال سوتسكيفر. "إنه جنون."
أشياء لا تصدق
يصر سوتسكيفر على أن كل هذا الحديث عن التكنولوجيا غير الموجودة بعد (وقد لا تكون موجودة أبدا) أمر جيد ، لأنه يجعل المزيد من الناس على دراية بالمستقبل الذي اعتبره أمرا مفروغا منه.
وقال: "يمكنك القيام بالكثير من الأشياء المدهشة ، والأشياء المذهلة باستخدام AGI: أتمتة الرعاية الصحية ، وجعلها أرخص ألف مرة ، وجعلها أفضل ألف مرة ، وعلاج الكثير من الأمراض ، وحل مشكلة الاحتباس الحراري حقا". ولكن هناك أيضا الكثير من الناس الذين يشعرون بالقلق: "يا إلهي ، هل يمكن لشركة الذكاء الاصطناعي إدارة هذه التكنولوجيا الضخمة بنجاح؟" '"
وبهذه الطريقة، يبدو الذكاء الاصطناعي العام وكأنه جني يمنح الأمنيات أكثر من كونه احتمالا في العالم الحقيقي. قلة من الناس سيقولون لا لإنقاذ الأرواح ومعالجة تغير المناخ. لكن المشكلة في تقنية غير موجودة هي أنه يمكنك قول ما تريد لها.
ما الذي يتحدث عنه سوتسكيفر بالضبط عندما يتحدث عن AGI؟ وقال: "AGI ليس مصطلحا علميا". "يجب أن تكون هذه عتبة مفيدة ، نقطة مرجعية."
"هذه هي الفكرة" ، بدأ ، ثم توقف. "لقد أصبح الذكاء الاصطناعي ذكيا لدرجة أنه إذا كان بإمكان الشخص القيام بمهام معينة ، فيمكنه الذكاء الاصطناعي القيام بذلك أيضا. في هذه المرحلة ، يمكنك القول أن لديك AGI. "
قد يتحدث الناس عن ذلك ، لكن AGI لا تزال واحدة من أكثر الأفكار إثارة للجدل في هذا المجال. قليل من الناس يأخذون تطورها كأمر مسلم به. يعتقد العديد من الباحثين أن هناك حاجة إلى اختراق مفاهيمي كبير قبل أن نتمكن من رؤية شيء مثل ما تصوره سوتسكيفر - يعتقد البعض أننا لن نفعل ذلك أبدا.
ومع ذلك ، ألهمته هذه الرؤية منذ البداية. "لقد كنت دائما مصدر إلهام ودوافع لهذه الفكرة" ، قال Sutskever. "في ذلك الوقت لم يكن يطلق عليه AGI بعد ، لكن كما تعلم ، إنه مثل السماح للشبكات العصبية بالقيام بكل شيء. لا أعتقد دائما أنهم يستطيعون ذلك. لكنه جبل لتسلقه. "
قارن الطريقة التي تعمل بها الشبكات العصبية والدماغ. كلاهما يتلقى البيانات ، ويجمع الإشارات من تلك البيانات ، ثم ينشرها أو لا ينشرها بناء على بعض العمليات البسيطة (الرياضيات في الشبكات العصبية ، والمواد الكيميائية في الدماغ ، والكهرباء الحيوية). إنه تبسيط كبير ، لكن المبدأ لا يزال قائما.
"إذا كنت تعتقد ذلك - إذا سمحت لنفسك بتصديق ذلك - فهناك الكثير من الآثار المثيرة للاهتمام" ، قال سوتسكيفر. "المعنى الرئيسي هو أنه إذا كان لديك شبكة عصبية اصطناعية كبيرة جدا ، فيجب أن تفعل الكثير من الأشياء. على وجه الخصوص ، إذا كان الدماغ البشري قادرا على فعل شيء ما ، فإن الشبكات العصبية الاصطناعية الكبيرة يمكنها أن تفعل شيئا مشابها. "
وقال: "إذا أخذت ذلك على محمل الجد بما فيه الكفاية ، فسوف يقع كل شيء في مكانه". "يمكن تفسير معظم عملي من خلال هذا."
بينما نتحدث عن العقول ، أود أن أسأل عن منشور Sutskever على المنصة X. يقرأ ملخص Sutskever مثل مجلد من الأمثال: "إذا وضعت الذكاء فوق كل الصفات الإنسانية الأخرى ، فستكون لديك حياة سيئة" ؛ "يتم التقليل من شأن التعاطف في الحياة والأعمال" ؛ "لقد دمر الكمال الكثير من جمال الكمال."
في فبراير 2022 ، نشر أن "الشبكات العصبية الكبيرة اليوم قد يكون لها وعي طفيف" (أجاب عليه موراي شاناهان ، كبير العلماء في DeepMind من Google ، والأستاذ في إمبريال كوليدج لندن ، والمستشار العلمي لفيلم Ex Machina: "... قد يكون نفس المعنى حقل قمح كبير مع القليل من المعكرونة").
عندما طرحته ، ضحك سوتسكيفر. هل هو محاكاة ساخرة؟ إنه ليس كذلك. "هل أنت على دراية بمفهوم دماغ بولتزمان؟" سأل.
كان يشير إلى تجربة فكرية ميكانيكية كمومية سميت على اسم الفيزيائي لودفيج بولتزمان في القرن 19 ، حيث كان من المتصور أن التقلبات الديناميكية الحرارية العشوائية في الكون ستؤدي إلى ظهور الدماغ واختفائه.
"أعتقد أن نماذج اللغة هذه تشبه إلى حد ما أدمغة بولتزمان في الوقت الحالي" ، قال Sutskever. "تبدأ في التحدث إليها ، والتحدث لفترة من الوقت. وبعد ذلك عندما تنتهي ، سيقوم الدماغ - "قام بحركة متلاشية بيده. بوف - وداعا ، الدماغ.
أنت تقول أنه عندما تكون الشبكة العصبية نشطة - إذا جاز التعبير ، عندما يتم تفريغها - هناك شيء ما هناك؟ سألت.
قال: "أعتقد أنه قد يكون كذلك". "لست متأكدا ، لكن من الصعب دحضها. لكن من يدري ما يحدث ، أليس كذلك؟ "
الذكاء الاصطناعي ولكن ليس كما نعرفها
بينما يكافح آخرون لجعل الآلات قابلة للمقارنة مع الذكاء البشري ، يستعد Sutskever للآلات التي يمكن أن تتفوق على آلاتنا. ويطلق على هذه الظاهرة الذكاء الاصطناعي الفائق: "إنهم ينظرون إلى الأشياء بعمق أكبر. سوف يرون ما لا يمكننا رؤيته. "
مرة أخرى ، من الصعب بالنسبة لي أن أفهم ما يعنيه ذلك حقا. الذكاء البشري هو المعيار الذي نحكم به على الذكاء. ماذا يعني سوتسكيفر بذكاء أذكى من البشر؟
وقال: "نحن نشهد مثالا ضيقا جدا للذكاء الخارق في AlphaGo". في عام 2016 ، هزمت لعبة DeepMind اللوحية الذكاء الاصطناعي "Alpha Dog" لي سيدول ، أحد أفضل لاعبي Go في العالم ، 4-1 في خمس مباريات. قال سوتسكيفر: "لقد اكتشفت كيفية لعب Go بطريقة مختلفة عن الطريقة التي تطور بها البشر معا لآلاف السنين". "إنها تأتي بأفكار جديدة."
يذكر Sutskever الخطوة 37 الشهيرة ل AlphaGo. في المباراة الثانية ضد لي سيدول ، حيرت خطوة من قبل الذكاء الاصطناعي المعلقين. يعتقدون أن AlphaGo مشدود. في الواقع ، لعبت حركة رابحة لم يسبق لها مثيل في تاريخ الشطرنج. "تخيل هذا المستوى من البصيرة ، ولكن تغطية كل شيء" ، قال Sutskever.
كان هذا الخط من التفكير هو الذي دفع Sutskever إلى إجراء أكبر تحول في حياته المهنية. جنبا إلى جنب مع زملائه العلماء في OpenAI ، جان لايك ، شكل فريقا يركز على ما أطلقوا عليه "المحاذاة الفائقة". المحاذاة هي لغة تعني السماح للنموذج الذكاء الاصطناعي بفعل ما تريد القيام به وهذا كل شيء. المحاذاة الفائقة هي مصطلح محاذاة يطبقه OpenAI على الذكاء الفائق.
الهدف هو التوصل إلى مجموعة من الإجراءات الآمنة من الفشل لبناء هذه التكنولوجيا المستقبلية والتحكم فيها. تقول OpenAI إنها ستخصص خمس مواردها الحاسوبية الهائلة لحل المشكلة وحلها في غضون أربع سنوات.
يقول ليك: "لا تعمل طرق المحاذاة الحالية مع النماذج الأكثر ذكاء من البشر لأنها تفترض بشكل أساسي أن البشر يمكنهم تقييم ما تفعله أنظمة الذكاء الاصطناعي بشكل موثوق". "عندما تصبح الأنظمة الذكاء الاصطناعي أكثر قوة ، فإنها ستتولى مهام أكثر صعوبة." الفكرة هي أن هذا سيجعل من الصعب على البشر تقييمها. وقال: "من خلال تجميع فريق Super Alignment مع Sutskever ، شرعنا في مواجهة تحديات المواءمة المستقبلية هذه".
"من المهم التركيز ليس فقط على الفرص المحتملة لنماذج اللغات الكبيرة ، ولكن أيضا على مخاطرها وعيوبها" ، قال دين ، كبير العلماء في Google. "
أعلنت الشركة عن المشروع في يوليو مع ضجة نموذجية. لكن بالنسبة للبعض ، إنه أكثر من خيال. أثارت منشورات OpenAI على Twitter ازدراء من النقاد البارزين لشركات التكنولوجيا الكبرى ، بما في ذلك Abeba Birhane ، التي تعمل على المساءلة الذكاء الاصطناعي في Mozilla. تيمنيت جبرو، المؤسس المشارك، معهد الذكاء الاصطناعي الموزع؛ ومارغريت ميتشل، كبيرة علماء الأخلاقيات في شركة الذكاء الاصطناعي Hugging Face. في الواقع ، هذه أصوات معارضة مألوفة. لكنه تذكير قوي بأن بعض الناس يعتقدون أن OpenAI في المقدمة ، بينما يعتقد البعض الآخر أن OpenAI على الحافة.
ومع ذلك ، بالنسبة ل Sutskever ، فإن المحاذاة الفائقة هي الخطوة التالية الحتمية. وقال: "إنها قضية لم تحل". وهو يعتقد أن الباحثين الأساسيين في مجال التعلم الآلي مثله يعملون على حل هذه المشكلة. قال: "أنا أفعل ذلك لمصلحتي الخاصة". "من الواضح أنه من المهم ألا يخرج أي ذكاء خارق يبنيه أي شخص عن السيطرة."
لقد بدأ العمل على المحاذاة الفائقة للتو. وفقا ل Sutskever ، سيتطلب هذا تغييرا واسعا في المؤسسات البحثية. لكنه كان يفكر في نموذج للضمانات أراد تصميمه: آلة تعامل الناس بالطريقة التي يعامل بها الآباء أطفالهم. قال: "في رأيي ، إنه المعيار الذهبي". "الناس يهتمون حقا بالأطفال ، وهذا بيان صحيح بشكل عام."
"بمجرد التغلب على تحدي الذكاء الاصطناعي المارقة ، ماذا بعد؟ في عالم به ذكاء اصطناعي أكثر ذكاء ، هل لا يزال هناك مجال للبشر؟ قال.
"أحد الاحتمالات - التي قد تكون مجنونة بمعايير اليوم ، ولكن ليس مجنونة بمعايير الغد - هو أن الكثير من الناس سيختارون أن يكونوا جزءا من الذكاء الاصطناعي." يقول سوتسكيفر إن هذه قد تكون وسيلة للبشر لمحاولة مواكبة العربة. "في البداية ، فقط الأشجع والأكثر مغامرة سيحاولون القيام بذلك. ربما يحذو الآخرون حذوهم. أم لا. "
المصادر المرجعية:
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
مقابلة مع كبير علماء OpenAI: سيكون لدينا AGI ، وسيختار البشر الاندماج مع الآلات
أحنت إيليا سوتسكيفر رأسها وسقطت في تفكير عميق. ينشر ذراعيه وأصابعه على الطاولة ، مثل عازف البيانو على وشك عزف نوتته الأولى. جلسنا بهدوء.
جئت إلى شارع غامض في منطقة ميشن في سان فرانسيسكو للقاء المؤسس المشارك لشركة OpenAI وكبير العلماء Sutskever في مبنى مكاتب لا يوصف للاستماع إلى الخطوات التالية في هذه التكنولوجيا المتغيرة للعالم التي يروج لها. أود أيضا أن أعرف ما هي خطواته التالية ، وعلى وجه الخصوص لماذا لم يعد تركيزه على بناء الجيل التالي من النموذج التوليدي الرائد للشركة.
أخبرني سوتسكيفر أن أولويته الجديدة ليست بناء الجيل التالي من GPT أو نموذج صنع الصور DALL-E ، ولكن لمعرفة كيفية منع الذكاء الاصطناعي من الخروج عن السيطرة.
أخبرني سوتسكيفر بالكثير من الأشياء الأخرى. يعتقد أن ChatGPT قد يكون واعيا. وهو يعتقد أن العالم بحاجة إلى إدراك القوة الحقيقية للتكنولوجيا التي تتنافس OpenAI والشركات الأخرى على إنشائها. إنه يعتقد أنه في يوم من الأيام سيختار بعض البشر الاندماج مع الآلات.
الكثير مما يقوله سوتسكيفر مجنون. ولكن ليس مجنونا كما بدا قبل عام أو عامين. كما أخبرني هو نفسه ، أعاد ChatGPT كتابة الكثير من توقعات الناس لما هو قادم ، من "لن يحدث أبدا" إلى "سيحدث في وقت أقرب مما تعتقد".
قبل التنبؤ بتطور الذكاء الاصطناعي العام AGI (يشير إلى آلات ذكية مثل البشر) ، قال: "من المهم مناقشة أين يسير كل شيء كما لو كان مثل المراهنة على iPhone التالي:" في مرحلة ما ، سيكون لدينا حقا AGI. ربما تم بناؤه بواسطة OpenAI ، وربما يكون شيئا آخر. "
منذ الإصدار المفاجئ وغير المتوقع ل ChatGPT في نوفمبر الماضي ، كان النقاش حول OpenAI مثيرا للقلق ، حتى في صناعة معروفة بضجيجها. لن يتعب أحد من مناقشة هذه الشركة الناشئة التي تبلغ قيمتها 80 مليار دولار. يسعى قادة العالم (ويحصلون على) محادثات خاصة أو عامة مع OpenAI. تظهر أسماء منتجات OpenAI في المحادثات غير الرسمية.
أمضى سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، الصيف في رحلة توعية لمدة أسبوع ، حيث انخرط بحماس مع السياسيين وتحدث إلى القاعات المزدحمة في جميع أنحاء العالم. لكن Sutskever ليس شخصية عامة ، ولا يجري الكثير من المقابلات أيضا.
يتحدث بهدوء ومنهجية. عندما يفكر في ما يريد قوله وكيفية التعبير عنه ، يتوقف لفترة طويلة ويفكر في المشكلة مرارا وتكرارا مثل اللغز. لا يبدو مهتما بالحديث عن نفسه. قال: "عشت حياة بسيطة للغاية. اذهب إلى العمل ، ثم اذهب إلى المنزل. لم أفعل الكثير غير ذلك. يمكن للناس الذهاب إلى الكثير من المناسبات الاجتماعية ، يمكنهم الذهاب إلى الكثير من المؤتمرات. لا أحب المشاركة. "
ولكن عندما نتحدث عن الذكاء الاصطناعي، وما يراه مخاطر ومكافآت تاريخية، فإن التوقعات تتسع: "ستكون معلما بارزا ومحطما للأرض". "
أفضل، أفضل، أفضل
حتى بدون OpenAI ، سيظل Sutskever يسجل في سجلات تاريخ الذكاء الاصطناعي. وهو إسرائيلي كندي، ولد في الاتحاد السوفيتي، لكنه نشأ في القدس منذ سن الخامسة (لا يزال يتحدث الروسية والعبرية والإنجليزية). بعد ذلك ، انتقل إلى كندا للدراسة في جامعة تورنتو مع رائد الذكاء الاصطناعي جيفري هينتون ، الذي أعرب في وقت سابق من هذا العام علنا عن مخاوفه بشأن التكنولوجيا الذكاء الاصطناعي التي ساعد Sutskever في اختراعها.
شارك هينتون لاحقا جائزة تورينج مع يان ليكون ويوشوا بينجيو لعمله على الشبكات العصبية. ولكن عندما انضم إليه سوتسكيفر في أوائل عام 2000 ، اعتقد معظم الباحثين الذكاء الاصطناعي أن الشبكات العصبية كانت طريقا مسدودا. هينتون هو استثناء. إنه يقوم بالفعل بتدريب النماذج الدقيقة التي يمكنها إنشاء سلاسل نصية قصيرة من حرف واحد في كل مرة ، ويقول Sutskever ، "هذا هو المكان الذي يبدأ فيه الذكاء الاصطناعي التوليدي". إنه رائع حقا - ليس رائعا. "
Sutskever مفتون ببناء الدماغ: كيف يتعلم الدماغ ، وكيف يمكنه إعادة إنشاء أو على الأقل تقليد العملية في الآلة. مثل هينتون ، رأى إمكانات الشبكات العصبية وتقنية التجربة والخطأ التي استخدمها هينتون لتدريب الشبكات العصبية ، وهي التعلم العميق. "التعلم العميق يتحسن بشكل أفضل طوال الوقت" ، يقول Sutskever.
في عام 2012 ، قام Sutskever و Hinton وطالب دراسات عليا آخر في Hinton ، Alex Krizhevsky ، ببناء شبكة عصبية تسمى AlexNet ، والتي قاموا بتدريبها للتعرف على الأشياء في الصور بشكل أفضل بكثير من أي برنامج آخر في ذلك الوقت. هذه هي لحظة الانفجار العظيم للتعلم العميق.
بعد سنوات من الفشل ، أثبتوا أن الشبكات العصبية فعالة بشكل مثير للدهشة في التعرف على الأنماط. كل ما تحتاجه هو بيانات أكثر مما رآه معظم الباحثين من قبل (في هذه الحالة ، مليون صورة من مجموعة بيانات ImageNet التي قام الباحث في جامعة برينستون Feifei Li ببنائها منذ عام 2006) وكمية مذهلة من طاقة الكمبيوتر.
يأتي التغيير الكبير في الحوسبة من رقائق GPU الجديدة التي تصنعها Nvidia. تم تصميم وحدات معالجة الرسومات لتكون قادرة على عرض مرئيات ألعاب الفيديو سريعة الحركة على الشاشة بسرعة البرق. لكن الحساب الذي تتفوق فيه وحدات معالجة الرسومات - ضرب عدد كبير من الشبكات الرقمية - يشبه إلى حد كبير الحساب اللازم لتدريب شبكة عصبية.
Nvidia هي الآن شركة بقيمة تريليون دولار. في ذلك الوقت ، كان يائسا للعثور على تطبيقات لأجهزة جديدة في مكانها. قال جنسن هوانغ ، الرئيس التنفيذي لشركة Nvidia ، "عندما تخترع تقنية جديدة ، يجب أن تكون قادرا على تبني أفكار مجنونة. كانت عقليتي تبحث دائما عن شيء غريب ، وكانت الشبكات العصبية ستغير فكرة علوم الكمبيوتر - وكانت هذه فكرة غريبة للغاية. "
قال هوانغ إنه عندما عمل فريق تورنتو على AlexNet ، أرسلت لهم Nvidia بعض وحدات معالجة الرسومات لتجربتها. لكنهم أرادوا أحدث إصدار ، شريحة تسمى GTX 580 ، والتي بيعت بسرعة في المتاجر. وفقا لهوانغ ، قاد سوتسكيفر سيارته عبر الحدود من تورنتو إلى نيويورك لشراء بعضها. "يصطف الناس في طابور قاب قوسين أو أدنى من المتجر للشراء. لا أعرف كيف فعل ذلك - أنا متأكد من أنك ستشتري واحدة فقط لكل منهما ؛ لدينا سياسة صارمة للغاية مفادها أنه يمكنك استخدام وحدة معالجة رسومات واحدة فقط لكل لاعب ، ولكن يبدو أنه يملأ صندوقا. هذه الحقيبة المليئة ب GTX 580 غيرت العالم. "
إنها قصة رائعة - ربما ليست صحيحة. لأن Sutskever يصر على أنه اشترى أول وحدات معالجة الرسومات عبر الإنترنت. لكن هذا النوع من الغموض شائع في هذه الصناعة الحيوية. سوتسكيفر نفسه أكثر تواضعا: "أعتقد أنه إذا كان بإمكاني تحقيق أدنى تقدم حقيقي ، فسأعتبره نجاحا". بدا التأثير على العالم الحقيقي بعيدا ، حيث كانت أجهزة الكمبيوتر لا تزال ضعيفة في ذلك الوقت. "
بعد نجاح AlexNet ، جاءت Google تطرق الباب. استحوذت على DNNresearch ، وهي شركة منبثقة عن هينتون ، واستأجرت Sutskever. أظهر Sutskever في Google أنه يمكن تطبيق إمكانات التعرف على أنماط التعلم العميق على تسلسلات البيانات مثل الكلمات والجمل والصور. وقال جيف دين، وهو زميل سابق ل Sutskever وكبير العلماء الآن في Google: "لطالما كان Sutskever مهتما باللغة ، وقد أجرينا مناقشات رائعة على مر السنين. لديه غريزة قوية إلى أين تسير الأمور. "
لكن Sutskever لم يبق في Google لفترة طويلة. في عام 2014 ، تم تجنيده ليصبح المؤسس المشارك ل OpenAI. مع 1 مليار دولار (من Altman و Elon Musk و Peter Thiel و Microsoft و Y Combinator وما إلى ذلك) ، والكثير من روح وادي السيليكون ، وضعت الشركة الجديدة أنظارها على تطوير AGI منذ البداية ، لكن القليل منهم أخذوا الاحتمال على محمل الجد في ذلك الوقت.
مع وجود Sutskever على متن الطائرة ، فإن هذا الموقف المتبجح أمر مفهوم. حتى ذلك الحين ، كان يحصل على المزيد والمزيد من النتائج من تعلم الشبكة العصبية. قال دالتون كالدويل ، العضو المنتدب لشركة Y Combinator Investments ، إن سمعته سبقته ، مما جعله يحقق نجاحا كبيرا.
قال كالدويل: "أتذكر أن ألتمان وصف سوتسكيفر بأنه أحد أكثر الباحثين احتراما في العالم". وهو يعتقد أن Sutskever ستجذب الكثير من أفضل المواهب الذكاء الاصطناعي. حتى أنه ذكر أن يوشوا بينجيو ، أحد كبار خبراء الذكاء الاصطناعي في العالم ، يعتقد أنه من غير المحتمل أن يتم العثور على مرشح أفضل من Sutskever ليكون كبير علماء OpenAI. "
في البداية ، كان OpenAI في مأزق. قال سوتسكيفر: "كان هناك وقت بدأنا فيه OpenAI ، ولم أكن متأكدا تماما من كيفية استمرار التقدم". "لكن لدي اعتقاد واضح جدا بأن الناس لن يعترضوا على التعلم العميق. بطريقة ما ، في كل مرة يصطدمون فيها بعقبة ، يجد الباحثون حلا في غضون ستة أشهر أو سنة. "
تمت مكافأة إيمانه. ظهر أول نموذج لغوي كبير GPT من OpenAI في عام 2016. تبع ذلك GPT-2 و GPT-3. ثم هناك DALL-E ، نموذج تحويل النص إلى صورة المقنع. لم يقم أحد ببناء شيء جيد جدا. مع كل إصدار ، يرفع OpenAI مستوى ما يعتقد الناس أنه ممكن.
إدارة التوقعات
في نوفمبر الماضي ، أصدرت OpenAI روبوت محادثة مجاني أعاد تجميع بعض التقنيات الحالية. يعيد تعيين جدول الأعمال للصناعة بأكملها.
في ذلك الوقت ، لم يكن OpenAI يعرف ما الذي سيصدره. يقول Sutskever إن التوقعات داخل الشركة لا يمكن أن تكون أقل: "سأعترف ، إنه أمر محرج قليلا - لا أعرف ما إذا كان يجب أن أفعل ذلك ، ولكن أيا كان ، إنها حقيقة - لم أكن أعرف ما هو جيد عندما صنعنا ChatGPT ". عندما تسأله سؤالا واقعيا ، فإنه يعطيك إجابة خاطئة. أعتقد أنه سيكون غير واضح للغاية وسيقول الناس ، "لماذا تفعل هذا المنتج؟" انها مملة! '"
الجزء الأكثر جاذبية ، كما يقول Sutskever ، هو الراحة. نموذج اللغة الكبير وراء ChatGPT موجود منذ شهور. لكن تغليفها في واجهة يسهل الوصول إليها ومنحها مجانا جعل مليارات الأشخاص يدركون لأول مرة ما يبنيه OpenAI وغيره.
"كانت التجربة الأولى رائعة. عندما تستخدمه لأول مرة ، أعتقد أنها تجربة روحية تقريبا. أنت مثل ، "يا إلهي ، يبدو أن هذا الكمبيوتر يفهم نفسه". '"
جمعت OpenAI 100 مليون مستخدم في أقل من شهرين ، وقد انبهر الكثير منهم بهذه اللعبة الجديدة المذهلة. لخص آرون ليفي ، الرئيس التنفيذي لشركة التخزين Box ، أجواء الأسبوع التالي للإطلاق على Twitter: "ChatGPT هي واحدة من تلك اللحظات النادرة في مجال التكنولوجيا ، ويمكنك أن ترى أن كل شيء سيكون مختلفا في المستقبل. "
بمجرد أن يقول ChatGPT شيئا غبيا ، تنهار هذه المعجزة. ولكن بعد ذلك لا يهم. لمحة عن الاحتمالات كافية ، كما يقول سوتسكيفر. لقد غير ChatGPT آفاق الناس.
وقال: "لم تعد AGI كلمة قذرة في مجال التعلم الآلي". "إنه تغيير كبير. موقف الناس في التاريخ هو: الذكاء الاصطناعي لا يعمل ، كل خطوة صعبة للغاية ، وعليك أن تقاتل من أجل كل جزء من التقدم. عندما يروج الناس ل AGI ، يقول الباحثون ، "ما الذي تتحدث عنه؟ هذا لا يعمل ، هذا لا يعمل أيضا. هناك الكثير من الأسئلة. ولكن مع ChatGPT ، بدأ الشعور مختلفا. "
هل بدأ هذا التحول يحدث قبل عام واحد فقط؟ قال: "حدث كل ذلك بسبب ChatGPT". "يتيح ChatGPT للباحثين في مجال التعلم الآلي تحقيق أحلامهم."
كان علماء OpenAI مبشرين منذ البداية وكانوا يلهمون هذه الأحلام من خلال منشورات المدونات وجولات المحاضرات. وهي تعمل: "نحن نتحدث عن المدى الذي ستذهب إليه الذكاء الاصطناعي الآن - يتحدث الناس عن الذكاء الاصطناعي العام ، أو الذكاء الفائق. إنهم ليسوا مجرد باحثين. "الحكومات تناقش هذا"، قال سوتسكيفر. "إنه جنون."
أشياء لا تصدق
يصر سوتسكيفر على أن كل هذا الحديث عن التكنولوجيا غير الموجودة بعد (وقد لا تكون موجودة أبدا) أمر جيد ، لأنه يجعل المزيد من الناس على دراية بالمستقبل الذي اعتبره أمرا مفروغا منه.
وقال: "يمكنك القيام بالكثير من الأشياء المدهشة ، والأشياء المذهلة باستخدام AGI: أتمتة الرعاية الصحية ، وجعلها أرخص ألف مرة ، وجعلها أفضل ألف مرة ، وعلاج الكثير من الأمراض ، وحل مشكلة الاحتباس الحراري حقا". ولكن هناك أيضا الكثير من الناس الذين يشعرون بالقلق: "يا إلهي ، هل يمكن لشركة الذكاء الاصطناعي إدارة هذه التكنولوجيا الضخمة بنجاح؟" '"
وبهذه الطريقة، يبدو الذكاء الاصطناعي العام وكأنه جني يمنح الأمنيات أكثر من كونه احتمالا في العالم الحقيقي. قلة من الناس سيقولون لا لإنقاذ الأرواح ومعالجة تغير المناخ. لكن المشكلة في تقنية غير موجودة هي أنه يمكنك قول ما تريد لها.
ما الذي يتحدث عنه سوتسكيفر بالضبط عندما يتحدث عن AGI؟ وقال: "AGI ليس مصطلحا علميا". "يجب أن تكون هذه عتبة مفيدة ، نقطة مرجعية."
"هذه هي الفكرة" ، بدأ ، ثم توقف. "لقد أصبح الذكاء الاصطناعي ذكيا لدرجة أنه إذا كان بإمكان الشخص القيام بمهام معينة ، فيمكنه الذكاء الاصطناعي القيام بذلك أيضا. في هذه المرحلة ، يمكنك القول أن لديك AGI. "
قد يتحدث الناس عن ذلك ، لكن AGI لا تزال واحدة من أكثر الأفكار إثارة للجدل في هذا المجال. قليل من الناس يأخذون تطورها كأمر مسلم به. يعتقد العديد من الباحثين أن هناك حاجة إلى اختراق مفاهيمي كبير قبل أن نتمكن من رؤية شيء مثل ما تصوره سوتسكيفر - يعتقد البعض أننا لن نفعل ذلك أبدا.
ومع ذلك ، ألهمته هذه الرؤية منذ البداية. "لقد كنت دائما مصدر إلهام ودوافع لهذه الفكرة" ، قال Sutskever. "في ذلك الوقت لم يكن يطلق عليه AGI بعد ، لكن كما تعلم ، إنه مثل السماح للشبكات العصبية بالقيام بكل شيء. لا أعتقد دائما أنهم يستطيعون ذلك. لكنه جبل لتسلقه. "
قارن الطريقة التي تعمل بها الشبكات العصبية والدماغ. كلاهما يتلقى البيانات ، ويجمع الإشارات من تلك البيانات ، ثم ينشرها أو لا ينشرها بناء على بعض العمليات البسيطة (الرياضيات في الشبكات العصبية ، والمواد الكيميائية في الدماغ ، والكهرباء الحيوية). إنه تبسيط كبير ، لكن المبدأ لا يزال قائما.
"إذا كنت تعتقد ذلك - إذا سمحت لنفسك بتصديق ذلك - فهناك الكثير من الآثار المثيرة للاهتمام" ، قال سوتسكيفر. "المعنى الرئيسي هو أنه إذا كان لديك شبكة عصبية اصطناعية كبيرة جدا ، فيجب أن تفعل الكثير من الأشياء. على وجه الخصوص ، إذا كان الدماغ البشري قادرا على فعل شيء ما ، فإن الشبكات العصبية الاصطناعية الكبيرة يمكنها أن تفعل شيئا مشابها. "
وقال: "إذا أخذت ذلك على محمل الجد بما فيه الكفاية ، فسوف يقع كل شيء في مكانه". "يمكن تفسير معظم عملي من خلال هذا."
بينما نتحدث عن العقول ، أود أن أسأل عن منشور Sutskever على المنصة X. يقرأ ملخص Sutskever مثل مجلد من الأمثال: "إذا وضعت الذكاء فوق كل الصفات الإنسانية الأخرى ، فستكون لديك حياة سيئة" ؛ "يتم التقليل من شأن التعاطف في الحياة والأعمال" ؛ "لقد دمر الكمال الكثير من جمال الكمال."
في فبراير 2022 ، نشر أن "الشبكات العصبية الكبيرة اليوم قد يكون لها وعي طفيف" (أجاب عليه موراي شاناهان ، كبير العلماء في DeepMind من Google ، والأستاذ في إمبريال كوليدج لندن ، والمستشار العلمي لفيلم Ex Machina: "... قد يكون نفس المعنى حقل قمح كبير مع القليل من المعكرونة").
عندما طرحته ، ضحك سوتسكيفر. هل هو محاكاة ساخرة؟ إنه ليس كذلك. "هل أنت على دراية بمفهوم دماغ بولتزمان؟" سأل.
كان يشير إلى تجربة فكرية ميكانيكية كمومية سميت على اسم الفيزيائي لودفيج بولتزمان في القرن 19 ، حيث كان من المتصور أن التقلبات الديناميكية الحرارية العشوائية في الكون ستؤدي إلى ظهور الدماغ واختفائه.
"أعتقد أن نماذج اللغة هذه تشبه إلى حد ما أدمغة بولتزمان في الوقت الحالي" ، قال Sutskever. "تبدأ في التحدث إليها ، والتحدث لفترة من الوقت. وبعد ذلك عندما تنتهي ، سيقوم الدماغ - "قام بحركة متلاشية بيده. بوف - وداعا ، الدماغ.
أنت تقول أنه عندما تكون الشبكة العصبية نشطة - إذا جاز التعبير ، عندما يتم تفريغها - هناك شيء ما هناك؟ سألت.
قال: "أعتقد أنه قد يكون كذلك". "لست متأكدا ، لكن من الصعب دحضها. لكن من يدري ما يحدث ، أليس كذلك؟ "
الذكاء الاصطناعي ولكن ليس كما نعرفها
بينما يكافح آخرون لجعل الآلات قابلة للمقارنة مع الذكاء البشري ، يستعد Sutskever للآلات التي يمكن أن تتفوق على آلاتنا. ويطلق على هذه الظاهرة الذكاء الاصطناعي الفائق: "إنهم ينظرون إلى الأشياء بعمق أكبر. سوف يرون ما لا يمكننا رؤيته. "
مرة أخرى ، من الصعب بالنسبة لي أن أفهم ما يعنيه ذلك حقا. الذكاء البشري هو المعيار الذي نحكم به على الذكاء. ماذا يعني سوتسكيفر بذكاء أذكى من البشر؟
وقال: "نحن نشهد مثالا ضيقا جدا للذكاء الخارق في AlphaGo". في عام 2016 ، هزمت لعبة DeepMind اللوحية الذكاء الاصطناعي "Alpha Dog" لي سيدول ، أحد أفضل لاعبي Go في العالم ، 4-1 في خمس مباريات. قال سوتسكيفر: "لقد اكتشفت كيفية لعب Go بطريقة مختلفة عن الطريقة التي تطور بها البشر معا لآلاف السنين". "إنها تأتي بأفكار جديدة."
يذكر Sutskever الخطوة 37 الشهيرة ل AlphaGo. في المباراة الثانية ضد لي سيدول ، حيرت خطوة من قبل الذكاء الاصطناعي المعلقين. يعتقدون أن AlphaGo مشدود. في الواقع ، لعبت حركة رابحة لم يسبق لها مثيل في تاريخ الشطرنج. "تخيل هذا المستوى من البصيرة ، ولكن تغطية كل شيء" ، قال Sutskever.
كان هذا الخط من التفكير هو الذي دفع Sutskever إلى إجراء أكبر تحول في حياته المهنية. جنبا إلى جنب مع زملائه العلماء في OpenAI ، جان لايك ، شكل فريقا يركز على ما أطلقوا عليه "المحاذاة الفائقة". المحاذاة هي لغة تعني السماح للنموذج الذكاء الاصطناعي بفعل ما تريد القيام به وهذا كل شيء. المحاذاة الفائقة هي مصطلح محاذاة يطبقه OpenAI على الذكاء الفائق.
الهدف هو التوصل إلى مجموعة من الإجراءات الآمنة من الفشل لبناء هذه التكنولوجيا المستقبلية والتحكم فيها. تقول OpenAI إنها ستخصص خمس مواردها الحاسوبية الهائلة لحل المشكلة وحلها في غضون أربع سنوات.
يقول ليك: "لا تعمل طرق المحاذاة الحالية مع النماذج الأكثر ذكاء من البشر لأنها تفترض بشكل أساسي أن البشر يمكنهم تقييم ما تفعله أنظمة الذكاء الاصطناعي بشكل موثوق". "عندما تصبح الأنظمة الذكاء الاصطناعي أكثر قوة ، فإنها ستتولى مهام أكثر صعوبة." الفكرة هي أن هذا سيجعل من الصعب على البشر تقييمها. وقال: "من خلال تجميع فريق Super Alignment مع Sutskever ، شرعنا في مواجهة تحديات المواءمة المستقبلية هذه".
"من المهم التركيز ليس فقط على الفرص المحتملة لنماذج اللغات الكبيرة ، ولكن أيضا على مخاطرها وعيوبها" ، قال دين ، كبير العلماء في Google. "
أعلنت الشركة عن المشروع في يوليو مع ضجة نموذجية. لكن بالنسبة للبعض ، إنه أكثر من خيال. أثارت منشورات OpenAI على Twitter ازدراء من النقاد البارزين لشركات التكنولوجيا الكبرى ، بما في ذلك Abeba Birhane ، التي تعمل على المساءلة الذكاء الاصطناعي في Mozilla. تيمنيت جبرو، المؤسس المشارك، معهد الذكاء الاصطناعي الموزع؛ ومارغريت ميتشل، كبيرة علماء الأخلاقيات في شركة الذكاء الاصطناعي Hugging Face. في الواقع ، هذه أصوات معارضة مألوفة. لكنه تذكير قوي بأن بعض الناس يعتقدون أن OpenAI في المقدمة ، بينما يعتقد البعض الآخر أن OpenAI على الحافة.
ومع ذلك ، بالنسبة ل Sutskever ، فإن المحاذاة الفائقة هي الخطوة التالية الحتمية. وقال: "إنها قضية لم تحل". وهو يعتقد أن الباحثين الأساسيين في مجال التعلم الآلي مثله يعملون على حل هذه المشكلة. قال: "أنا أفعل ذلك لمصلحتي الخاصة". "من الواضح أنه من المهم ألا يخرج أي ذكاء خارق يبنيه أي شخص عن السيطرة."
لقد بدأ العمل على المحاذاة الفائقة للتو. وفقا ل Sutskever ، سيتطلب هذا تغييرا واسعا في المؤسسات البحثية. لكنه كان يفكر في نموذج للضمانات أراد تصميمه: آلة تعامل الناس بالطريقة التي يعامل بها الآباء أطفالهم. قال: "في رأيي ، إنه المعيار الذهبي". "الناس يهتمون حقا بالأطفال ، وهذا بيان صحيح بشكل عام."
"بمجرد التغلب على تحدي الذكاء الاصطناعي المارقة ، ماذا بعد؟ في عالم به ذكاء اصطناعي أكثر ذكاء ، هل لا يزال هناك مجال للبشر؟ قال.
"أحد الاحتمالات - التي قد تكون مجنونة بمعايير اليوم ، ولكن ليس مجنونة بمعايير الغد - هو أن الكثير من الناس سيختارون أن يكونوا جزءا من الذكاء الاصطناعي." يقول سوتسكيفر إن هذه قد تكون وسيلة للبشر لمحاولة مواكبة العربة. "في البداية ، فقط الأشجع والأكثر مغامرة سيحاولون القيام بذلك. ربما يحذو الآخرون حذوهم. أم لا. "
المصادر المرجعية: