هل ما زلت تتحسر على التغييرات الثورية التي أحدثها الذكاء الاصطناعي التوليدي؟ رثاء قوة GPT-4؟ هل ما زلت تخمن الميزات الجديدة التي ستتمتع بها GPT-5؟ لقد شهدت أوبن إيه آي مجالات أبعد ، وهي تعمل بالفعل.
مصدر الصورة: تم إنشاؤه بواسطة Unbounded AI
أصدر فريق OpenAI أحدث تحركاتهم أمس ، حيث شكلوا فريقًا جديدًا ، Superalignment ، برئاسة إيليا سوتسكيفر (المؤسس المشارك لـ OpenAI وكبير العلماء) وجان لايك (قائد المحاذاة). هذا فريق حول الذكاء الخارق ، يركز على أبحاث محاذاة الذكاء الخارق. تدعي شركة OpenAI أنها ستنفق 20٪ من مواردها الحاسوبية على حل مشاكل المحاذاة فائقة الذكاء في ** السنوات الأربع المقبلة ** ، وهو ما يكفي لإظهار أهمية OpenAI.
ما هو الذكاء الخارق؟
يشير مصطلح Superintelligence إلى نظام ذكي يفوق الذكاء البشري. إنه ليس مجرد برنامج كمبيوتر بسيط ، ولكنه جسم ذكي ، له خصائص القدرة المعرفية والقدرة العاطفية والوعي الذاتي والنية ، ويمكنه التفكير والحكم واتخاذ القرار بشكل مستقل -يمكن للصناعة أن تتجاوز الذكاء البشري إلى حد معين. يرتبط مفهوم الذكاء الخارق بنظام الذكاء الاصطناعي الحالي ، وهو يشير إلى ذكاء اصطناعي أكثر تقدمًا يمكن تطبيقه في مجموعة واسعة من المجالات والبيئات المعقدة.
في الوقت الحالي ، لا يزال الذكاء الخارق مفهومًا نظريًا ولم يتحقق بعد. يتطلب تحقيق الذكاء الخارق حل العديد من المشكلات الفنية ، بما في ذلك التحديات في التعلم الآلي ومعالجة اللغة الطبيعية ورؤية الكمبيوتر والاستدلال واتخاذ القرار. بالإضافة إلى ذلك ، فإن ظهور الذكاء الخارق سيجلب أيضًا العديد من القضايا الأخلاقية والاجتماعية والسياسية ، مثل التحكم في الذكاء الخارق ، وقضايا الأمان والخصوصية.
الذكاء الخارق هو مفهوم مثير ومقنع لأنه يمكن أن يولد العديد من التطبيقات المهمة في مختلف المجالات ، مثل التشخيص الطبي ، وتطوير الأدوية الجديدة ، والنقل الذكي ، والإنتاج الآلي والدفاع الأمني ، إلخ. في الوقت نفسه ، ينطوي الذكاء الخارق أيضًا على بعض المخاطر والتحديات ، فإذا خرج عن نطاق السيطرة ، فقد يشكل تهديدًا كبيرًا للبشر.
يتطلب تحقيق الذكاء الخارق حل العديد من المشكلات الفنية. تتمثل إحدى أهم القضايا في كيفية تمكين الأنظمة الذكية من امتلاك القدرة على التعلم بشكل مستقل ، أي التعلم المستمر للمعرفة والمهارات الجديدة من البيانات والخبرات ، وذلك لتحسين مستوى ذكائها باستمرار. في الوقت نفسه ، يحتاج الذكاء الخارق أيضًا إلى التفكير القوي وقدرات اتخاذ القرار والابتكار ، وأن يكون قادرًا على التفكير بشكل مستقل وحل المشكلات المعقدة المختلفة.
"بينما نقترب من الذكاء الخارق" ، نحتاج إلى التفكير أكثر في المخاطر الوجودية للذكاء الاصطناعي. - زوكربيرج
هل سيكون الذكاء الخارق حقيقة بعد عشر سنوات؟ على الأقل تعتقد شركة OpenAI ذلك
تؤمن شركة OpenAI بأن الذكاء الخارق سيكون أكثر التقنيات التي تم اختراعها تأثيراً على الإطلاق ، مما يساعدنا في حل العديد من المشكلات الأكثر أهمية في العالم. لكن القوة الهائلة للذكاء الخارق يمكن أن تكون خطيرة للغاية ويمكن أن تؤدي إلى إضعاف البشرية ، أو حتى انقراضها. بينما ** قد يبدو الذكاء الخارق بعيدًا الآن ، نعتقد أنه قد يكون في غضون عقد من الزمن. **
###
كيف نحل مخاطر الذكاء الخارق؟
على الرغم من أن الذكاء الخارق لديه طاقة هائلة ، إلا أن المخاطر كبيرة أيضًا. قالت أوبن إيه آي إن إدارة هذه المخاطر ستتطلب مؤسسات حوكمة جديدة ومعالجة مشكلة تنسيق الذكاء الخارق ، أي كيفية ضمان أن تكون أنظمة الذكاء الاصطناعي أكثر ذكاءً من البشر ولكنها تتبع النوايا البشرية أيضًا؟
لم تعط أوبن إيه آي إجابة. إنهم يعتقدون أن البشر لا يستطيعون الإشراف بشكل موثوق على أنظمة الذكاء الاصطناعي الأكثر ذكاءً من البشر. لا يمكن توسيع تقنية المحاذاة الحالية لتشمل الذكاء الخارق. لذلك ، يجب البحث عن اختراقات علمية وتكنولوجية جديدة.
ومع ذلك ، كان مسار OpenAI لحل مشكلة محاذاة الذكاء الخارق واضحًا ، أي إنشاء باحث محاذاة تلقائي تقريبًا على المستوى البشري ، لتحسين قدرة أنظمة الذكاء الاصطناعي على التعلم من ردود الفعل البشرية ومساعدة البشر في تقييم الذكاء الاصطناعي. الهدف هو بناء نظام ذكاء اصطناعي محاذي بدرجة كافية بحيث يمكنه مساعدتنا في حل جميع مشاكل المحاذاة الأخرى.
في العام الماضي ، نشرت OpenAI منشور مدونة يوضح خط بحثهم حول المحاذاة:
فريق Superalignment الجديد لـ OpenAI
سيكون الفريق عبارة عن فريق من كبار الباحثين والمهندسين في مجال التعلم الآلي ، بهدف حل التحديات التقنية الأساسية لمحاذاة الذكاء الخارق في غضون أربع سنوات ، من تطوير أساليب جديدة إلى التوسع إلى النشر. جعل إيليا سوتسكيفر ، كبير العلماء في أوبن إيه آي ، من مشكلة محاذاة الذكاء الخارق نقطة تركيز بحثية أساسية. تعد محاذاة الذكاء الخارق في الأساس مشكلة تعلم الآلة ، وتقوم OpenAI بتوظيف خبراء ممتازين في التعلم الآلي.
مراجع:
شاهد النسخة الأصلية
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
أحدث اتجاهات OpenAI: تشكيل فريق جديد ، والمراهنة على الذكاء الخارق ، وإمالة 20٪ من موارد الحوسبة
هل ما زلت تتحسر على التغييرات الثورية التي أحدثها الذكاء الاصطناعي التوليدي؟ رثاء قوة GPT-4؟ هل ما زلت تخمن الميزات الجديدة التي ستتمتع بها GPT-5؟ لقد شهدت أوبن إيه آي مجالات أبعد ، وهي تعمل بالفعل.
أصدر فريق OpenAI أحدث تحركاتهم أمس ، حيث شكلوا فريقًا جديدًا ، Superalignment ، برئاسة إيليا سوتسكيفر (المؤسس المشارك لـ OpenAI وكبير العلماء) وجان لايك (قائد المحاذاة). هذا فريق حول الذكاء الخارق ، يركز على أبحاث محاذاة الذكاء الخارق. تدعي شركة OpenAI أنها ستنفق 20٪ من مواردها الحاسوبية على حل مشاكل المحاذاة فائقة الذكاء في ** السنوات الأربع المقبلة ** ، وهو ما يكفي لإظهار أهمية OpenAI.
ما هو الذكاء الخارق؟
يشير مصطلح Superintelligence إلى نظام ذكي يفوق الذكاء البشري. إنه ليس مجرد برنامج كمبيوتر بسيط ، ولكنه جسم ذكي ، له خصائص القدرة المعرفية والقدرة العاطفية والوعي الذاتي والنية ، ويمكنه التفكير والحكم واتخاذ القرار بشكل مستقل -يمكن للصناعة أن تتجاوز الذكاء البشري إلى حد معين. يرتبط مفهوم الذكاء الخارق بنظام الذكاء الاصطناعي الحالي ، وهو يشير إلى ذكاء اصطناعي أكثر تقدمًا يمكن تطبيقه في مجموعة واسعة من المجالات والبيئات المعقدة.
في الوقت الحالي ، لا يزال الذكاء الخارق مفهومًا نظريًا ولم يتحقق بعد. يتطلب تحقيق الذكاء الخارق حل العديد من المشكلات الفنية ، بما في ذلك التحديات في التعلم الآلي ومعالجة اللغة الطبيعية ورؤية الكمبيوتر والاستدلال واتخاذ القرار. بالإضافة إلى ذلك ، فإن ظهور الذكاء الخارق سيجلب أيضًا العديد من القضايا الأخلاقية والاجتماعية والسياسية ، مثل التحكم في الذكاء الخارق ، وقضايا الأمان والخصوصية.
الذكاء الخارق هو مفهوم مثير ومقنع لأنه يمكن أن يولد العديد من التطبيقات المهمة في مختلف المجالات ، مثل التشخيص الطبي ، وتطوير الأدوية الجديدة ، والنقل الذكي ، والإنتاج الآلي والدفاع الأمني ، إلخ. في الوقت نفسه ، ينطوي الذكاء الخارق أيضًا على بعض المخاطر والتحديات ، فإذا خرج عن نطاق السيطرة ، فقد يشكل تهديدًا كبيرًا للبشر.
يتطلب تحقيق الذكاء الخارق حل العديد من المشكلات الفنية. تتمثل إحدى أهم القضايا في كيفية تمكين الأنظمة الذكية من امتلاك القدرة على التعلم بشكل مستقل ، أي التعلم المستمر للمعرفة والمهارات الجديدة من البيانات والخبرات ، وذلك لتحسين مستوى ذكائها باستمرار. في الوقت نفسه ، يحتاج الذكاء الخارق أيضًا إلى التفكير القوي وقدرات اتخاذ القرار والابتكار ، وأن يكون قادرًا على التفكير بشكل مستقل وحل المشكلات المعقدة المختلفة.
هل سيكون الذكاء الخارق حقيقة بعد عشر سنوات؟ على الأقل تعتقد شركة OpenAI ذلك
تؤمن شركة OpenAI بأن الذكاء الخارق سيكون أكثر التقنيات التي تم اختراعها تأثيراً على الإطلاق ، مما يساعدنا في حل العديد من المشكلات الأكثر أهمية في العالم. لكن القوة الهائلة للذكاء الخارق يمكن أن تكون خطيرة للغاية ويمكن أن تؤدي إلى إضعاف البشرية ، أو حتى انقراضها. بينما ** قد يبدو الذكاء الخارق بعيدًا الآن ، نعتقد أنه قد يكون في غضون عقد من الزمن. **
كيف نحل مخاطر الذكاء الخارق؟
على الرغم من أن الذكاء الخارق لديه طاقة هائلة ، إلا أن المخاطر كبيرة أيضًا. قالت أوبن إيه آي إن إدارة هذه المخاطر ستتطلب مؤسسات حوكمة جديدة ومعالجة مشكلة تنسيق الذكاء الخارق ، أي كيفية ضمان أن تكون أنظمة الذكاء الاصطناعي أكثر ذكاءً من البشر ولكنها تتبع النوايا البشرية أيضًا؟
لم تعط أوبن إيه آي إجابة. إنهم يعتقدون أن البشر لا يستطيعون الإشراف بشكل موثوق على أنظمة الذكاء الاصطناعي الأكثر ذكاءً من البشر. لا يمكن توسيع تقنية المحاذاة الحالية لتشمل الذكاء الخارق. لذلك ، يجب البحث عن اختراقات علمية وتكنولوجية جديدة.
ومع ذلك ، كان مسار OpenAI لحل مشكلة محاذاة الذكاء الخارق واضحًا ، أي إنشاء باحث محاذاة تلقائي تقريبًا على المستوى البشري ، لتحسين قدرة أنظمة الذكاء الاصطناعي على التعلم من ردود الفعل البشرية ومساعدة البشر في تقييم الذكاء الاصطناعي. الهدف هو بناء نظام ذكاء اصطناعي محاذي بدرجة كافية بحيث يمكنه مساعدتنا في حل جميع مشاكل المحاذاة الأخرى.
في العام الماضي ، نشرت OpenAI منشور مدونة يوضح خط بحثهم حول المحاذاة:
فريق Superalignment الجديد لـ OpenAI
سيكون الفريق عبارة عن فريق من كبار الباحثين والمهندسين في مجال التعلم الآلي ، بهدف حل التحديات التقنية الأساسية لمحاذاة الذكاء الخارق في غضون أربع سنوات ، من تطوير أساليب جديدة إلى التوسع إلى النشر. جعل إيليا سوتسكيفر ، كبير العلماء في أوبن إيه آي ، من مشكلة محاذاة الذكاء الخارق نقطة تركيز بحثية أساسية. تعد محاذاة الذكاء الخارق في الأساس مشكلة تعلم الآلة ، وتقوم OpenAI بتوظيف خبراء ممتازين في التعلم الآلي. مراجع: