معاينة قمة الأمن الذكاء الاصطناعي في المملكة المتحدة: لماذا الآن، لماذا المملكة المتحدة

كلمات: إنغريد لوندن

المصدر: تك كرانش

* مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود *

يعد وعد الذكاء الاصطناعي ومضاره من الموضوعات الساخنة هذه الأيام. يقول بعض الناس أن الذكاء الاصطناعي سينقذنا ، ويساعد في تشخيص بعض الأمراض الخبيثة ، وسد الفجوة الرقمية في التعليم ، وما إلى ذلك. ولكن هناك أيضا مخاوف بشأن التهديد الذي تشكله على الحرب والأمن والمعلومات المضللة وغير ذلك. أصبح هواية للناس العاديين ودق ناقوس الخطر في عالم الأعمال.

الذكاء الاصطناعي مفيد للغاية ، لكنه لا يستطيع حتى الآن إسكات ضجيج غرفة مليئة بالثرثرة. هذا الأسبوع ، يجتمع الأكاديميون والمنظمون والقادة الحكوميون والشركات الناشئة وشركات التكنولوجيا الكبرى وعشرات المنظمات الربحية وغير الربحية في المملكة المتحدة لمناقشة ومناقشة الذكاء الاصطناعي.

لماذا المملكة المتحدة؟ لماذا الآن؟ **

يومي الأربعاء والخميس ، ستستضيف المملكة المتحدة قمة الأمن الذكاء الاصطناعي في بلتشلي بارك ، وهي الأولى من نوعها في المملكة المتحدة.

وكان من المقرر عقد القمة لعدة أشهر لاستكشاف بعض القضايا والمخاطر طويلة الأجل التي تشكلها الذكاء الاصطناعي. وأهداف مؤتمر القمة مثالية وليست ملموسة: "فهم مشترك للمخاطر التي تشكلها الذكاء الاصطناعي الحدودية والحاجة إلى اتخاذ إجراءات"، و "عملية تطلعية للتعاون الدولي بشأن أمن الذكاء الاصطناعي الحدود، بما في ذلك أفضل السبل لدعم الأطر الوطنية والدولية"، و "ينبغي للمنظمات أن تتخذ التدابير المناسبة لتحسين أمن الذكاء الاصطناعي الحدود"، وما إلى ذلك.

تنعكس هذه الرغبة رفيعة المستوى أيضا في هويات المشاركين: كبار المسؤولين الحكوميين وقادة الصناعة والمفكرين البارزين في هذا المجال سيكونون حاضرين. (وفقا لأحدث التقارير: سيحضر إيلون ماسك والرئيس بايدن وجوستين ترودو وأولاف شولز، من بين آخرين).

بدت القمة خاصة، وكانت كذلك: كانت "التذكرة الذهبية" للقمة (التي وصفها مؤسس التكنولوجيا والمؤلف المقيم في لندن عظيم أزهر) غير متوفرة. وتفيد التقارير بأن القمة ستكون صغيرة الحجم ومغلقة في معظمها. وتشمل هذه الأحداث محادثات في الجمعية الملكية (الأكاديمية الوطنية للعلوم). مؤتمرات "الذكاء الاصطناعي Fringe" واسعة النطاق في مدن متعددة وإعلانات من العديد من فرق العمل ، من بين أمور أخرى.

وقالت جينا نيف، المديرة التنفيذية لمركز مينديلو للتكنولوجيا والديمقراطية في جامعة كامبريدج، في حلقة نقاش مسائية حول العلوم والأمن في الجمعية الملكية الأسبوع الماضي: "سنلعب دور القمة التي تعاملنا معها بالفعل. بمعنى آخر ، فإن حدثا في بلتشلي سيفعل ما يفترض أن يفعله ، وما ليس ضمن نطاق الحدث سيكون فرصة للناس لتبادل الأفكار حول قضايا أخرى. "

كانت حلقة نقاش نيف مثالا على ذلك: في قاعة مكتظة بالجمعية الملكية، جلست مع ممثلين عن هيومن رايتس ووتش، ومسؤولين حكوميين من نقابة العمال الكبيرة يونايت، ومؤسس معهد التكنولوجيا العالمي، وهو مركز أبحاث يركز على قضايا المساواة التكنولوجية في الجنوب العالمي، ورئيس السياسة العامة في شركة Stability الذكاء الاصطناعي الناشئة، وعلماء الكمبيوتر في جامعة كامبريدج.

في الوقت نفسه ، يمكن القول إن ما يسمى باجتماع حافة الذكاء الاصطناعي هو مجرد "حافة" اسمية. مع انعقاد قمة بلتشلي في نفس الموقع خلال الأسبوع ، مع قائمة ضيوف محدودة للغاية وفرص محدودة بنفس القدر لمعرفة ما تمت مناقشته ، تم توسيع جلسة الذكاء الاصطناعي Edge بسرعة لتشمل بلتشلي وبلورت جدول أعمال المؤتمر. وبحسب ما ورد لم يتم تنظيم الحدث من قبل الحكومة ، ولكن من قبل شركة علاقات عامة تسمى Milltown Partners (التي مثلت شركات مثل DeepMind و Stripe وشركة رأس المال الاستثماري Atomico) ، ومن المثير للاهتمام ، أنه استمر أسبوعا كاملا ، وعقد في مواقع متعددة في جميع أنحاء البلاد ، وكان مجانيا لأولئك الذين يمكنهم الحصول على تذاكر (تم بيع العديد من الأحداث) ، وكانت العديد من الجلسات متاحة أيضا على خدمات البث.

على الرغم من التنوع ، كان من المحزن للغاية أن نرى أن النقاش حول الذكاء الاصطناعي ، على الرغم من حداثته ، كان لا يزال منقسما للغاية: أحدهما كان اجتماعا لقوى السلطة (كان معظمها مفتوحا للضيوف المدعوين فقط) والآخر كان اجتماعا لبقيتنا.

في وقت سابق من اليوم، أرسلت مجموعة من 100 نقابة عمالية وناشط رسالة إلى رئيس الوزراء قائلة إن الحكومة "تضغط" على أصواتهم في المحادثة من خلال عدم السماح لهم بالمشاركة في بلتشلي بارك. (ربما لم يحصلوا على التذاكر، لكن طريقتهم في معارضتها كانت معقولة تماما: فقد نشرتها المجموعة على الملأ من خلال مشاركة الرسالة مع أكثر المنشورات الاقتصادية نخبة في البلاد، مثل فاينانشال تايمز).

ليس فقط الناس العاديون هم الذين يتم استبعادهم في البرد. قالت كاريسا فيليز ، المحاضرة في قسم الفلسفة بجامعة أكسفورد ، في حدث الذكاء الاصطناعي Edge اليوم: "لم تتم دعوة أي من الأشخاص الذين أعرفهم. "

يعتقد البعض أن هناك فوائد للتبسيط.

عالم أبحاث الذكاء الاصطناعي ماريوس هوبان هو المؤسس المشارك ومدير شركة أبولو للأبحاث ، التي تطور أدوات السلامة الذكاء الاصطناعي. وهو يعتقد أن عددا أقل من الناس يمكنهم أيضا جذب المزيد من الاهتمام: "كلما زاد عدد الأشخاص في الغرفة ، كلما كان من الصعب استخلاص أي استنتاجات أو إجراء مناقشة فعالة".

بمعنى أوسع، القمة هي مجرد "لبنة" وجزء من محادثة أوسع تجري حاليا. وفي الأسبوع الماضي، قال رئيس الوزراء البريطاني ريشي سوناك إنه يعتزم إنشاء معهد جديد للسلامة الذكاء الاصطناعي وشبكة أبحاث في المملكة المتحدة لقضاء المزيد من الوقت والجهد في دراسة تأثير الذكاء الاصطناعي. انخرطت مجموعة من الأكاديميين البارزين ، بقيادة يوشوا بينجيو وجيفري هينتون ، بشكل جماعي في هذا المجال بورقة بعنوان "إدارة مخاطر الذكاء الاصطناعي في عصر التقدم السريع". كما أعلنت الأمم المتحدة عن إنشاء فرقة عمل خاصة بها لاستكشاف تأثير الذكاء الاصطناعي. في الآونة الأخيرة ، أصدر الرئيس الأمريكي جو بايدن أيضا أمرا تنفيذيا أمريكيا لوضع معايير السلامة الذكاء الاصطناعي.

"خطر وجودي"

واحدة من أكبر المناقشات هي ما إذا كانت فكرة أن الذكاء الاصطناعي يشكل "خطرا وجوديا" مبالغ فيها ، أو حتى مقصودة ، لإزالة التدقيق في نشاط الذكاء الاصطناعي المباشر.

يشير مات كيلي ، أستاذ رياضيات الأنظمة في جامعة كامبريدج ، إلى أن أحد أكثر المجالات التي يتم الاستشهاد بها بشكل متكرر هو المعلومات المضللة.

"المعلومات المضللة ليست جديدة. إنه ليس شيئا جديدا في هذا القرن أو القرن الماضي»، قال في مقابلة الأسبوع الماضي. "لكن هذا أحد المجالات التي نعتقد أن هناك مخاطر محتملة الذكاء الاصطناعي فيها على المدى القصير والمتوسط. وتتطور هذه المخاطر ببطء بمرور الوقت. وقال كيلي، وهو زميل في الجمعية الملكية للعلماء، إن الجمعية أجرت أيضا تمرينا جماعيا باللونين الأحمر والأزرق خصيصا للمعلومات المضللة في العلوم خلال الفترة التي سبقت القمة لمعرفة كيف ستتصرف نماذج اللغات الكبيرة عند محاولة التنافس مع بعضها البعض. إنها محاولة لفهم المخاطر في الوقت الحالي بشكل أفضل".

يبدو أن حكومة المملكة المتحدة تتخذ نهجا ذا وجهين في هذا النقاش، حيث يكون الخطر أكثر وضوحا من اسم الحدث الذي تنظمه، قمة الأمن الذكاء الاصطناعي.

وفي خطابه الأسبوع الماضي، قال سوناك: "في الوقت الحالي، ليس لدينا فهم مشترك للمخاطر التي نواجهها. "بدون هذا الإجماع ، لا يمكننا أن نتوقع معالجة هذه المخاطر معا." وهذا هو السبب في أننا سنبذل دفعة قوية من أجل إصدار أول بيان دولي حول طبيعة هذه المخاطر".

ولكن في تنظيم القمة، وضعت المملكة المتحدة نفسها أولا كلاعب مركزي في وضع جدول أعمال "ما نتحدث عنه عندما نتحدث عن الذكاء الاصطناعي"، ولديها بالتأكيد منظور اقتصادي.

وأشار سوناك إلى أنه "من خلال جعل المملكة المتحدة رائدة عالميا في الذكاء الاصطناعي الآمنة ، سنجذب المزيد من الوظائف والاستثمارات الجديدة من هذه الموجة من التقنيات الجديدة". (تم استلام المذكرة أيضا من قبل إدارات أخرى: استضاف وزير الداخلية اليوم حدثا مع مؤسسة مراقبة الإنترنت وعدد من شركات تطبيقات المستهلك الكبرى مثل TikTok و Snap لمعالجة انتشار صور الاعتداء الجنسي التي تم إنشاؤها بواسطة الذكاء الاصطناعي).

قد يبدو أن إشراك شركات التكنولوجيا الكبرى يساعد بطريقة واحدة ، لكن النقاد يميلون إلى رؤيته على أنه مشكلة أيضا. كان "الاستيلاء التنظيمي" ، حيث يتخذ اللاعبون الأكبر في الصناعة خطوات استباقية لمناقشة وتطوير المخاطر والحماية ، موضوعا كبيرا آخر في عالم الذكاء الاصطناعي الجديد الشجاع ، ولا تختلف قمة هذا الأسبوع.

"كن حذرا من الذكاء الاصطناعي القادة الذين يرفعون أيديهم ويقولون: "أنا، أنا". أشار نايجل تون ، الرئيس التنفيذي لشركة الذكاء الاصطناعي لصناعة الرقائق Graphcore ، بذكاء في مقال كتبه عن القمة القادمة هذا الأسبوع: "من المرجح أن تتدخل الحكومات وتأخذ كلمتها على محمل الجد". (إنه ليس هامشيا تماما: سيحضر القمة بنفسه).

في الوقت نفسه ، لا يزال العديد من الناس يناقشون ما إذا كان ما يسمى بالخطر الوجودي الحالي هو تمرين مفيد في التفكير.

"أعتقد أن خطاب الحدود والذكاء الاصطناعي قد وضعنا في حالة من الخوف من التكنولوجيا خلال العام الماضي" ، قال بن بروكس ، رئيس السياسة العامة في Stability الذكاء الاصطناعي ، في حلقة نقاش في الجمعية الملكية ، مستشهدا بتجربة التفكير "Paperclip Maxing" - حيث يمكن الذكاء الاصطناعي تدمير العالم من خلال إنشاء مشابك ورق دون اعتبار لاحتياجات الإنسان أو سلامته - كمثال على هذا النهج المقيد عمدا. "إنهم لا يفكرون في الظروف التي يمكن فيها نشر الذكاء الاصطناعي. ولكن يمكنك تطويره بأمان. نريد أن يستلهم الجميع من هذا وأن يدركوا أن الذكاء الاصطناعي يمكن تحقيقه وآمن للقيام به. "

البعض الآخر أقل يقينا.

قال هوبهاهن من أبولو للأبحاث: "لكي نكون منصفين ، لا أعتقد أن المخاطر الوجودية دقيقة. دعونا نسميها خطرا كارثيا". وبالنظر إلى وتيرة التطور في السنوات الأخيرة، جلبت تطبيقات الذكاء الاصطناعي التوليدية نماذج لغوية كبيرة إلى التيار السائد، ويعتقد أن القلق الأكبر سيبقى الجهات الفاعلة السيئة التي تستخدم الذكاء الاصطناعي، بدلا من الذكاء الاصطناعي نفسها في أعمال شغب: استخدامها في الحرب البيولوجية، ووضع الأمن القومي، والمعلومات المضللة التي يمكن أن تغير العملية الديمقراطية. وقال إن كل هذه المجالات هي المجالات التي يعتقد الذكاء الاصطناعي المرجح أن تلعب فيها دورا كارثيا.

"الفائزون بجائزة تورينج قلقون علانية بشأن البقاء على قيد الحياة والمخاطر الكارثية ... يجب أن نفكر في الأمر حقا».

آفاق الأعمال

في حين أن هناك مخاطر جسيمة ، تريد المملكة المتحدة أيضا جعل البلاد موطنا طبيعيا للشركات الذكاء الاصطناعي من خلال استضافة محادثات كبيرة حول الذكاء الاصطناعي. ومع ذلك ، يعتقد بعض المحللين أن الطريق إلى الاستثمار في الذكاء الاصطناعي قد لا يكون سلسا كما يتوقع البعض.

"أعتقد أن الواقع بدأ يظهر أن الشركات بدأت تفهم مقدار الوقت والمال الذي تحتاج إلى تخصيصه لمشاريع الذكاء الاصطناعي التوليدية من أجل الحصول على مخرجات موثوقة يمكن أن تزيد حقا من الإنتاجية والإيرادات" ، قال أفيفا ليتان ، نائب رئيس الشركة المحلل في جارتنر. "على الرغم من أنهم يقومون بإجراء تعديلات وهندسة متكررة على المشروع ، إلا أنهم ما زالوا بحاجة إلى الإشراف اليدوي على العمليات والمخرجات. باختصار ، مخرجات GenAI ليست موثوقة بما فيه الكفاية وتتطلب الكثير من الموارد لجعلها موثوقة. بالطبع ، يتحسن النموذج طوال الوقت ، لكن هذا هو الوضع الحالي للسوق. ومع ذلك ، في الوقت نفسه ، نرى المزيد والمزيد من المشاريع تدخل مرحلة الإنتاج. "

وهي تعتقد أن الاستثمارات الذكاء الاصطناعي "ستبطئ بالتأكيد نمو الشركات والمؤسسات الحكومية التي تستخدم الذكاء الاصطناعي". يدفع البائعون تطبيقاتهم ومنتجاتهم الذكاء الاصطناعي ، لكن الشركات لا يمكنها اعتمادها بالسرعة التي يتم دفعها. بالإضافة إلى ذلك ، هناك العديد من المخاطر المرتبطة بتطبيقات GenAI ، مثل إضفاء الطابع الديمقراطي على سهولة الوصول إلى المعلومات السرية حتى داخل المؤسسة. "

وكما أن "التحول الرقمي" هو مفهوم بطيء الاحتراق في الواقع، فإن استراتيجية الاستثمار الذكاء الاصطناعي للمؤسسة تحتاج أيضا إلى مزيد من الوقت. "يستغرق الأمر وقتا حتى تتمكن الشركات من تأمين مجموعات البيانات المهيكلة وغير المهيكلة وتعيين الأذونات بشكل صحيح وفعال. هناك الكثير من الإفراط في المشاركة في المؤسسة التي لم تكن مهمة حقا حتى ذلك الحين. ويضيف ليتان: "الآن، يمكن لأي شخص الوصول إلى أي ملف لا يتمتع الآخرون بالحماية الكافية باستخدام أمر بسيط باللغة الأم، مثل اللغة الإنجليزية". "

حقيقة أن كيفية تحقيق التوازن بين المصالح التجارية الذكاء الاصطناعي مع قضايا الأمن والمخاطر التي ستناقشها بلتشلي بارك تتحدث كثيرا عن المهمة المقبلة ، ولكنها تسلط الضوء أيضا على توتر الموقف. في وقت لاحق من المؤتمر، ورد أن منظمي بلتشلي عملوا على توسيع النقاش إلى ما هو أبعد من المخاوف الأمنية رفيعة المستوى إلى المجالات التي قد تنشأ فيها مخاطر بالفعل، مثل الرعاية الصحية، على الرغم من أن هذا التحول لم يتم تفصيله في جدول الأعمال المعلن عنه حاليا.

"ستكون هناك مائدة مستديرة تضم حوالي 100 خبير ، وهي ليست صغيرة. أنا ناقد ، لكنها لا تبدو فكرة سيئة ، "يقول نيف ، الأستاذ في جامعة كامبريدج. "الآن ، هل سيكون التنظيم العالمي موضوعا للمناقشة؟ كلا على الإطلاق. هل سنقوم بتطبيع العلاقات بين الشرق والغرب؟ ربما لا. لكننا قادمون إلى قمتنا. أعتقد أنه يمكن أن تكون هناك بعض الفرص المثيرة للاهتمام في هذه المرحلة. "