أمان الذكاء الاصطناعي مشكلة تبرز بشكل متزايد مع تقدم نموذج Manus
مؤخراً، سجل نموذج Manus رقماً قياسياً جديداً في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس المستوى. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، بما في ذلك تحليل بنود العقد، وضع الاستراتيجيات، وتوليد الحلول. تتمثل ميزة Manus في تفكيك الأهداف الديناميكية، والاستدلال عبر الأنماط، وقدرته على التعلم المعزز للذاكرة. يمكنه تقسيم المهام المعقدة إلى مهام فرعية قابلة للتنفيذ، ومعالجة أنواع مختلفة من البيانات، وتحسين كفاءة اتخاذ القرار وتقليل معدل الأخطاء من خلال التعلم المعزز.
لقد أثارت التقدمات الرائدة لـ Manus مرة أخرى نقاشًا في الصناعة حول مسار تطور الذكاء الاصطناعي: هل سيكون المستقبل نحو الذكاء الاصطناعي العام (AGI) أم نحو أنظمة متعددة الوكلاء (MAS)؟ تعكس هاتان المسارتان مسألة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. تسعى مسار AGI إلى تعزيز القدرات الشاملة لوكيل واحد، بينما يركز مسار MAS على التعاون المشترك لعدة وكلاء متخصصين.
ومع ذلك، مع ازدياد ذكاء أنظمة الذكاء الاصطناعي، تزداد أيضًا المخاطر المحتملة. على سبيل المثال، في السيناريوهات الطبية، قد تحتاج أنظمة الذكاء الاصطناعي إلى الوصول إلى بيانات الجينات الحساسة للمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة للشركات. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة في الرواتب لمجموعات معينة خلال عمليات التوظيف. والأكثر خطورة، قد تتعرض أنظمة الذكاء الاصطناعي لهجمات معادية، مثل تعطيل حكم الذكاء الاصطناعي من خلال ترددات صوتية معينة.
في مواجهة هذه التحديات، يستكشف القطاع مجموعة متنوعة من حلول الأمان. يتطلب نموذج الأمان المعدوم الثقة التحقق الصارم من كل طلب وصول، بينما توفر الهوية اللامركزية (DID) وسيلة للتعرف على الهوية لا تعتمد على التسجيل المركزي، وتسمح التشفير المتجانس بالكامل (FHE) بإجراء حسابات على البيانات في حالة مشفرة.
تعتبر التشفير المتجانس تقنية ناشئة، ومن المتوقع أن تصبح أداة رئيسية لحل مشاكل الأمان في عصر الذكاء الاصطناعي. يمكن أن تحمي خصوصية المستخدمين على مستوى البيانات، وتحقق "تدريب نموذج مشفر" على مستوى الخوارزميات، وتستخدم التشفير بالعتبة لحماية أمان الاتصالات في التنسيق بين الوكلاء المتعددين.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها ضرورية لحماية مصالح المستخدمين. لم تحظَ المشاريع الأولى لهويات لامركزية مثل uPort ومشاريع عدم الثقة مثل NKN باهتمام واسع، لكن المشاريع الناشئة مثل Mind Network تتعاون مع العديد من الشركات المعروفة، مما يُتوقع أن يدفع تطبيق هذه التقنية وتطورها.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، يصبح بناء نظام دفاعي قوي أمرًا أكثر أهمية. لا يمكن للتشفير المتجانس الكامل فقط حل التحديات الأمنية الحالية، بل يؤسس أيضًا لحقبة أقوى من الذكاء الاصطناعي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، قد يصبح التشفير المتجانس الكامل التقنية الرئيسية لضمان التنمية الآمنة للذكاء الاصطناعي.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
أمان الذكاء الاصطناعي التحديات الجديدة: التشفير المتماثل بالكامل أو يصبح مفتاح حماية النماذج المتقدمة مثل Manus
أمان الذكاء الاصطناعي مشكلة تبرز بشكل متزايد مع تقدم نموذج Manus
مؤخراً، سجل نموذج Manus رقماً قياسياً جديداً في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس المستوى. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، بما في ذلك تحليل بنود العقد، وضع الاستراتيجيات، وتوليد الحلول. تتمثل ميزة Manus في تفكيك الأهداف الديناميكية، والاستدلال عبر الأنماط، وقدرته على التعلم المعزز للذاكرة. يمكنه تقسيم المهام المعقدة إلى مهام فرعية قابلة للتنفيذ، ومعالجة أنواع مختلفة من البيانات، وتحسين كفاءة اتخاذ القرار وتقليل معدل الأخطاء من خلال التعلم المعزز.
لقد أثارت التقدمات الرائدة لـ Manus مرة أخرى نقاشًا في الصناعة حول مسار تطور الذكاء الاصطناعي: هل سيكون المستقبل نحو الذكاء الاصطناعي العام (AGI) أم نحو أنظمة متعددة الوكلاء (MAS)؟ تعكس هاتان المسارتان مسألة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. تسعى مسار AGI إلى تعزيز القدرات الشاملة لوكيل واحد، بينما يركز مسار MAS على التعاون المشترك لعدة وكلاء متخصصين.
ومع ذلك، مع ازدياد ذكاء أنظمة الذكاء الاصطناعي، تزداد أيضًا المخاطر المحتملة. على سبيل المثال، في السيناريوهات الطبية، قد تحتاج أنظمة الذكاء الاصطناعي إلى الوصول إلى بيانات الجينات الحساسة للمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة للشركات. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة في الرواتب لمجموعات معينة خلال عمليات التوظيف. والأكثر خطورة، قد تتعرض أنظمة الذكاء الاصطناعي لهجمات معادية، مثل تعطيل حكم الذكاء الاصطناعي من خلال ترددات صوتية معينة.
في مواجهة هذه التحديات، يستكشف القطاع مجموعة متنوعة من حلول الأمان. يتطلب نموذج الأمان المعدوم الثقة التحقق الصارم من كل طلب وصول، بينما توفر الهوية اللامركزية (DID) وسيلة للتعرف على الهوية لا تعتمد على التسجيل المركزي، وتسمح التشفير المتجانس بالكامل (FHE) بإجراء حسابات على البيانات في حالة مشفرة.
تعتبر التشفير المتجانس تقنية ناشئة، ومن المتوقع أن تصبح أداة رئيسية لحل مشاكل الأمان في عصر الذكاء الاصطناعي. يمكن أن تحمي خصوصية المستخدمين على مستوى البيانات، وتحقق "تدريب نموذج مشفر" على مستوى الخوارزميات، وتستخدم التشفير بالعتبة لحماية أمان الاتصالات في التنسيق بين الوكلاء المتعددين.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها ضرورية لحماية مصالح المستخدمين. لم تحظَ المشاريع الأولى لهويات لامركزية مثل uPort ومشاريع عدم الثقة مثل NKN باهتمام واسع، لكن المشاريع الناشئة مثل Mind Network تتعاون مع العديد من الشركات المعروفة، مما يُتوقع أن يدفع تطبيق هذه التقنية وتطورها.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، يصبح بناء نظام دفاعي قوي أمرًا أكثر أهمية. لا يمكن للتشفير المتجانس الكامل فقط حل التحديات الأمنية الحالية، بل يؤسس أيضًا لحقبة أقوى من الذكاء الاصطناعي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، قد يصبح التشفير المتجانس الكامل التقنية الرئيسية لضمان التنمية الآمنة للذكاء الاصطناعي.