مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود
في الأيام الأخيرة ، أصبح النقاش حول كيفية الإشراف على الذكاء الاصطناعي أكثر سخونة ، ولدى اللاعبين الكبار آراء مختلفة تماما.
على سبيل المثال ، لدى ثلاثي جائزة تورينج جيفري هينتون ويوشوا بينجيو ويان ليكون وجهتا نظر. هينتون وبينجيو هما فريقان يدعيان بقوة إلى تنظيم أكثر صرامة الذكاء الاصطناعي ، مما قد يؤدي إلى خطر "الانقراض الذكاء الاصطناعي". لا تشارك LeCun وجهات نظرهم ، بحجة أن التنظيم القوي الذكاء الاصطناعي سيؤدي حتما إلى احتكار العمالقة ، ونتيجة لذلك فإن عددا قليلا فقط من الشركات يسيطر الذكاء الاصطناعي البحث والتطوير.
من أجل التعبير عن أفكارهم ، وقع العديد من الأشخاص على رسالة مشتركة لنقل وجهات نظرهم ، على سبيل المثال ، في الأيام القليلة الماضية ، أصدر Bengio و Hinton وآخرون رسالة مشتركة بعنوان "إدارة مخاطر الذكاء الاصطناعي في عصر سريع التطور" ، داعين الباحثين إلى اتخاذ تدابير حوكمة عاجلة قبل تطوير أنظمة الذكاء الاصطناعي.
في الوقت نفسه ، يتم حاليا تخمير رسالة مفتوحة بعنوان "بيان مشترك حول أمن وانفتاح الذكاء الاصطناعي" على وسائل التواصل الاجتماعي.
رابط الرسالة المفتوحة:
حتى الآن ، وقع أكثر من 370 شخصا ، بما في ذلك LeCun ، أحد عمالقة التعلم العميق الثلاثة ، وأندرو نج ، الأستاذ في قسم علوم الكمبيوتر بجامعة ستانفورد ، على الرسالة المفتوحة. ويجري تحديث القائمة باستمرار.
"الوصول المفتوح والشفاف والواسع يجعل منصة البرنامج أكثر أمانا وموثوقية. هذه الرسالة المفتوحة من مؤسسة موزيلا ، التي وقعتها أيضا ، تجعل القضية لمنصات وأنظمة الذكاء الاصطناعي المفتوحة ".
** فيما يلي مضمون الرسالة المفتوحة:**
نحن في منعطف حاسم في الحكم الذكاء الاصطناعي. للتخفيف من الأضرار الحالية والمستقبلية للأنظمة الذكاء الاصطناعي ، نحتاج إلى تبني الانفتاح والشفافية والوصول الواسع. يجب أن يكون هذا أولوية عالمية.
صحيح أن النماذج المتاحة للجمهور محفوفة بالمخاطر وضعيفة - الذكاء الاصطناعي النماذج يمكن إساءة استخدامها من قبل الجهات الفاعلة الخبيثة أو نشرها من قبل مطورين غير مجهزين. ومع ذلك ، مرارا وتكرارا ، رأينا هذا مع جميع أنواع التقنيات المسجلة الملكية - زيادة الوصول العام والرقابة تجعل التكنولوجيا أكثر أمانا ، وليس أكثر خطورة. إن الفكرة القائلة بأن السيطرة الصارمة والملكية على نماذج الذكاء الاصطناعي الأساسية هي الطريقة الوحيدة لحمايتنا من الأذى الجماعي هي فكرة ساذجة في أحسن الأحوال وخطيرة في أسوأ الأحوال.
علاوة على ذلك ، يعلمنا تاريخ التنمية البشرية أن التبني السريع للتنظيم الخاطئ يمكن أن يؤدي إلى تركيز السلطة ، مما قد يضر بالمنافسة والابتكار. يمكن للنموذج المفتوح أن يسترشد به النقاش العام ويحسن تطوير الإستراتيجية. إذا كان هدفنا هو السلامة والأمن والمساءلة ، فإن الانفتاح والشفافية عاملان مهمان في تحقيق هذا الهدف.
نحن في خضم نقاش ديناميكي حول ما يعنيه أن تكون "منفتحا" في عصر الذكاء الاصطناعي. وينبغي عدم إبطاء هذه المناقشة الهامة. بل ينبغي التعجيل بها، وتشجيعنا على التجريب والتعلم وتطوير طرق جديدة للاستفادة من الانفتاح في سباق الأمن الذكاء الاصطناعي.
نحن بحاجة إلى بناء مجموعة من الأساليب للمصدر المفتوح والانفتاح التي يمكن أن تكون بمثابة اللبنات الأساسية ل:
تسريع فهم مخاطر ومخاطر القدرات الذكاء الاصطناعي من خلال البحث المستقل والتعاون وتبادل المعرفة. 2. تعزيز التدقيق العام والمساءلة من خلال مساعدة المنظمين على اعتماد أدوات لرصد أنظمة الذكاء الاصطناعي واسعة النطاق. 3. خفض حاجز دخول اللاعبين الجدد والتركيز على خلق الذكاء الاصطناعي مسؤولة.
بصفتنا موقعين على هذه الرسالة المفتوحة ، نحن مجموعة متنوعة من العلماء والاستراتيجيين والمهندسين والناشطين ورجال الأعمال والمعلمين والصحفيين ، على سبيل المثال لا الحصر. نحن نمثل وجهات نظر مختلفة حول كيفية إدارة ونشر الذكاء الاصطناعي مفتوحة المصدر. ومع ذلك ، فإننا نتفق بشدة على شيء واحد: اتباع نهج مفتوح وخاضع للمساءلة وشفاف أمر ضروري للحفاظ على سلامتنا في عصر الذكاء الاصطناعي.
عندما يتعلق الأمر بأمن الذكاء الاصطناعي ، فإن الانفتاح هو الترياق وليس السم.
توقيع:
آرثر مينش، المؤسس المشارك والرئيس التنفيذي لشركة ميسترال الفرنسية الناشئة
أندرو نج ، مؤسس DeepLearning.AI ، المؤسس والرئيس التنفيذي لشركة Landing الذكاء الاصطناعي ، أستاذ علوم الكمبيوتر في جامعة ستانفورد
يان ليكون ، الحائز على جائزة تورينج ، كبير علماء الذكاء الاصطناعي في Meta
جوليان شوموند ، معانقة الوجه CTO
بريان بيليندورف ، عضو مؤسس في Apache ، CTO في OpenSSF
إريك فون هيبل هو اقتصادي أمريكي وأستاذ في كلية سلون للإدارة في معهد ماساتشوستس للتكنولوجيا
......
في الوقت الحاضر ، تستمر هذه الرسالة المفتوحة ، التي ظهرت لبضعة أيام فقط ، في التخمير ، وقد جذبت اهتماما ومناقشة كبيرين في مجتمع الذكاء الاصطناعي الأجنبي ، حتى تتمكن من الاستمرار في الاهتمام بتحديث القائمة.
إذا كنت توافق على فكرة الرسالة المشتركة ، يمكنك أيضا تقديم توقيعك الخاص.
وسوف يستغرق الأمر بعض الوقت للإجابة عما إذا كان التنظيم القوي الذكاء الاصطناعي سوف يضر أكثر مما ينفع، أو ما إذا كانت الفوائد تفوق العيوب.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
وقع أكثر من 370 شخصا ، بما في ذلك LeCun و Ng Enda ، رسالة مشتركة: السيطرة الصارمة على الذكاء الاصطناعي أمر خطير ، والانفتاح هو الترياق
المصدر الأصلي: قلب الآلة
في الأيام الأخيرة ، أصبح النقاش حول كيفية الإشراف على الذكاء الاصطناعي أكثر سخونة ، ولدى اللاعبين الكبار آراء مختلفة تماما.
على سبيل المثال ، لدى ثلاثي جائزة تورينج جيفري هينتون ويوشوا بينجيو ويان ليكون وجهتا نظر. هينتون وبينجيو هما فريقان يدعيان بقوة إلى تنظيم أكثر صرامة الذكاء الاصطناعي ، مما قد يؤدي إلى خطر "الانقراض الذكاء الاصطناعي". لا تشارك LeCun وجهات نظرهم ، بحجة أن التنظيم القوي الذكاء الاصطناعي سيؤدي حتما إلى احتكار العمالقة ، ونتيجة لذلك فإن عددا قليلا فقط من الشركات يسيطر الذكاء الاصطناعي البحث والتطوير.
من أجل التعبير عن أفكارهم ، وقع العديد من الأشخاص على رسالة مشتركة لنقل وجهات نظرهم ، على سبيل المثال ، في الأيام القليلة الماضية ، أصدر Bengio و Hinton وآخرون رسالة مشتركة بعنوان "إدارة مخاطر الذكاء الاصطناعي في عصر سريع التطور" ، داعين الباحثين إلى اتخاذ تدابير حوكمة عاجلة قبل تطوير أنظمة الذكاء الاصطناعي.
في الوقت نفسه ، يتم حاليا تخمير رسالة مفتوحة بعنوان "بيان مشترك حول أمن وانفتاح الذكاء الاصطناعي" على وسائل التواصل الاجتماعي.
حتى الآن ، وقع أكثر من 370 شخصا ، بما في ذلك LeCun ، أحد عمالقة التعلم العميق الثلاثة ، وأندرو نج ، الأستاذ في قسم علوم الكمبيوتر بجامعة ستانفورد ، على الرسالة المفتوحة. ويجري تحديث القائمة باستمرار.
"الوصول المفتوح والشفاف والواسع يجعل منصة البرنامج أكثر أمانا وموثوقية. هذه الرسالة المفتوحة من مؤسسة موزيلا ، التي وقعتها أيضا ، تجعل القضية لمنصات وأنظمة الذكاء الاصطناعي المفتوحة ".
توقيع:
في الوقت الحاضر ، تستمر هذه الرسالة المفتوحة ، التي ظهرت لبضعة أيام فقط ، في التخمير ، وقد جذبت اهتماما ومناقشة كبيرين في مجتمع الذكاء الاصطناعي الأجنبي ، حتى تتمكن من الاستمرار في الاهتمام بتحديث القائمة.
إذا كنت توافق على فكرة الرسالة المشتركة ، يمكنك أيضا تقديم توقيعك الخاص.
وسوف يستغرق الأمر بعض الوقت للإجابة عما إذا كان التنظيم القوي الذكاء الاصطناعي سوف يضر أكثر مما ينفع، أو ما إذا كانت الفوائد تفوق العيوب.