01 الذكاء الاصطناعي في صعود: الحرب الخفية على الأمن تحت سيف التكنولوجيا المزدوج
مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، أصبحت التهديدات التي تواجه الأمن السيبراني أكثر تعقيدًا، حيث أصبحت أساليب الهجوم أكثر كفاءةً وخفاءً، مما أدى إلى ظهور أشكال جديدة من "الهاكرز الذكاء الاصطناعي"، وبالتالي أثارت أنواع جديدة من الأزمات الأمنية السيبرانية.
أولاً، يعمل الذكاء الاصطناعي التوليدي على إعادة تشكيل "دقة" الاحتيال عبر الإنترنت.
ببساطة، يعني ذلك تحويل هجمات التصيد التقليدية إلى شكل ذكي، على سبيل المثال في سيناريوهات أكثر دقة، سيستخدم المهاجمون البيانات الاجتماعية العامة لتدريب نماذج الذكاء الاصطناعي، لتوليد رسائل تصيد مخصصة بشكل كبير، مقلدين أسلوب كتابة أو عادات لغوية لمستخدمين محددين، لتنفيذ عمليات احتيال "مخصصة"، متجاوزين مرشحات البريد العشوائي التقليدية، مما يزيد بشكل كبير من نسبة نجاح الهجمات.
ثم يأتي ما يعرفه الجمهور بشكل أفضل وهو التزييف العميق (Deepfake) وانتحال الهوية. قبل نضوج تقنية الذكاء الاصطناعي، كانت "هجمات تغيير الوجه التقليدية"، والمعروفة أيضًا باسم احتيال BEC، والتي تعني "اختراق البريد الإلكتروني للأعمال"، حيث يقوم المهاجم بتزوير مرسل البريد الإلكتروني ليبدو كأنه قائدك أو زميلك أو شريكك التجاري، وذلك لخداعك للحصول على معلومات تجارية أو أموال، أو للحصول على معلومات مهمة أخرى.
الآن ، "تغيير الوجه" حدث حقًا. يمكن لتقنية تغيير الوجه وتغيير الصوت التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تزوير هوية الشخصيات العامة أو الأصدقاء المقربين ، واستخدامها في الاحتيال ، والتلاعب بالرأي العام ، وحتى التدخل السياسي. قبل شهرين فقط ، تلقى المدير المالي لشركة في شنغهاي دعوة لمؤتمر فيديو من "الرئيس" ، حيث زعم الطرف الآخر من خلال تغيير الوجه المزيف بالصوت أنه يحتاج إلى دفع "ضمان تعاون خارجي" بشكل عاجل ، وقد حول المدير المالي 3.8 مليون يوان إلى حساب محدد بناءً على التعليمات ، ثم اكتشف أنه كان ضحية لعصابة احتيال خارجية تستخدم تقنية التزوير العميق.
الثالث هو الهجمات الآلية واستغلال الثغرات. تقدم تقنية الذكاء الاصطناعي سمح بتطور العديد من السيناريوهات نحو الذكاء الآلي، وكذلك الهجمات الإلكترونية. يمكن للمهاجمين استخدام الذكاء الاصطناعي لمسح الثغرات في الأنظمة تلقائيًا، وإنشاء شفرات هجوم ديناميكية، وتنفيذ هجمات سريعة وغير متحيزة على الأهداف، على سبيل المثال، الهجمات "زيرو داي" التي يقودها الذكاء الاصطناعي ستقوم بكتابة وتنفيذ برامج ضارة فور اكتشاف الثغرات، مما يجعل أنظمة الدفاع التقليدية تواجه صعوبة في الاستجابة في الوقت الحقيقي.
في عيد الربيع هذا العام، تعرض موقع DeepSeek لهجوم DDoS ضخم بقوة 3.2Tbps، حيث قام القراصنة بالتسلل من خلال واجهة برمجة التطبيقات لحقن نماذج مضادة، مما أدى إلى تعديل أوزان النموذج وتعطل الخدمات الأساسية لمدة 48 ساعة، مع خسائر اقتصادية مباشرة تزيد عن عشرات الملايين من الدولارات، وبعد ذلك، تم اكتشاف آثار تسلل NSA الأمريكية التي كانت تتواجد لفترة طويلة.
تلوث البيانات والثغرات في النماذج هي أيضًا تهديد جديد. يقوم المهاجمون بزرع معلومات زائفة في بيانات تدريب الذكاء الاصطناعي (أي تسمم البيانات) أو استغلال عيوب النموذج نفسه، مما يدفع الذكاء الاصطناعي لإنتاج نتائج خاطئة - مما يشكل تهديدًا مباشرًا للأمان في المجالات الحيوية، وقد يؤدي حتى إلى عواقب كارثية متسلسلة، مثل أنظمة القيادة الذاتية التي تسيء تفسير العينة المضادة "حظر المرور" على أنها "علامة حد السرعة"، أو الذكاء الاصطناعي الطبي الذي يخطئ في تشخيص ورم حميد على أنه خبيث.
02 الذكاء الاصطناعي لا يزال يحتاج إلى الذكاء الاصطناعي
في مواجهة التهديدات الجديدة للأمن السيبراني المدفوعة بالذكاء الاصطناعي، أصبحت نماذج الحماية التقليدية ضعيفة. فماذا لدينا من استراتيجيات للتعامل مع ذلك؟
ليس من الصعب أن نلاحظ أن الإجماع في الصناعة حاليا يشير إلى "مواجهة الذكاء الاصطناعي بالذكاء الاصطناعي" - وهذا ليس مجرد ترقية للوسائل التقنية، بل هو أيضا تغيير في نموذج الأمان.
تنقسم المحاولات الحالية أساسًا إلى ثلاث فئات رئيسية: تقنيات الحماية الأمنية لنماذج الذكاء الاصطناعي، وتطبيقات الدفاع على مستوى الصناعة، والتعاون الحكومي والدولي على مستوى أكثر شمولية.
تكمن النقطة الأساسية في تقنيات حماية أمان نماذج الذكاء الاصطناعي في تعزيز الأمان الداخلي للنموذج.
كمثال على ثغرات "الهروب" في نماذج اللغة الكبيرة (LLM)، فإن آلية الحماية الأمنية غالبًا ما تفشل بسبب استراتيجيات تحذير الهروب العامة - حيث يقوم المهاجمون بتجاوز طبقات الحماية المدمجة في النموذج بشكل منهجي، مما يؤدي إلى إغراء الذكاء الاصطناعي لإنتاج محتوى عنيف أو تمييزي أو غير قانوني. لمنع "الهروب" في LLM، قامت شركات النماذج المختلفة بتجارب، مثلما أصدرت شركة Anthropic "مُصنف الدستور" في فبراير من هذا العام.
تشير "الدستور" هنا إلى قواعد اللغة الطبيعية التي لا يمكن انتهاكها، كإجراء ضمان تم تدريبه على بيانات مركبة، من خلال تحديد المحتويات المسموح بها والمقيدة، ومراقبة المدخلات والمخرجات في الوقت الحقيقي. في اختبار الظروف القياسية، زادت نسبة نجاح نموذج Claude3.5 في منع محاولات الاختراق المتقدمة تحت حماية المصنف من 14% إلى 95%، مما خفض بشكل ملحوظ من مخاطر "الاختراق" للذكاء الاصطناعي.
بالإضافة إلى الأساليب الدفاعية الأكثر عمومية المستندة إلى النماذج، فإن تطبيقات الدفاع على مستوى الصناعة تستحق أيضًا الاهتمام، حيث أصبح الحماية السياقية في المجالات الرأسية نقطة اختراق رئيسية: يبني القطاع المالي حواجز ضد الاحتيال من خلال نماذج إدارة المخاطر المستندة إلى الذكاء الاصطناعي وتحليل البيانات متعددة النماذج، بينما تحقق البيئة مفتوحة المصدر استجابة سريعة للتهديدات صفرية اليوم بفضل تقنيات اكتشاف الثغرات الذكية، وتعتمد حماية المعلومات الحساسة للشركات على نظام التحكم الديناميكي المدفوع بالذكاء الاصطناعي.
على سبيل المثال، الحل الذي عرضته سيسكو في أسبوع الشبكات الدولي في سنغافورة يمكنه اعتراض طلبات استعلام البيانات الحساسة المقدمة من الموظفين إلى ChatGPT في الوقت الفعلي، وإنشاء تقارير تدقيق متوافقة تلقائيًا لتحسين حلقة الإدارة.
على المستوى الكلي، تتسارع جهود التعاون بين الحكومة والمناطق الدولية. أصدرت هيئة الأمن السيبراني في سنغافورة "إرشادات سلامة أنظمة الذكاء الاصطناعي"، من خلال فرض نشر محلي وآليات تشفير البيانات للحد من إساءة استخدام الذكاء الاصطناعي التوليدي، وخاصة في إنشاء معايير حماية للتعرف على الهوية المزورة للذكاء الاصطناعي في هجمات التصيد الاحتيالي؛ كما أطلقت الدول الثلاث، الولايات المتحدة والمملكة المتحدة وكندا، بشكل متزامن "برنامج وكلاء الإنترنت للذكاء الاصطناعي"، مع التركيز على تطوير أنظمة موثوقة وتقييم الهجمات المتقدمة في الوقت الفعلي، وتعزيز قدرات الدفاع الجماعي من خلال نظام الشهادات الأمنية المشتركة.
إذن، ما هي الطرق التي يمكن أن تستخدم الذكاء الاصطناعي إلى أقصى حد لمواجهة تحديات الأمن السيبراني في عصر الذكاء الاصطناعي؟
"المستقبل يحتاج إلى مركز ذكي آمن مدعوم بالذكاء الاصطناعي وبناء نظام جديد حول المركز." في منتدى ووهان للابتكار في الأمن السيبراني الثاني، أكد مؤسس شركة كينغتنج يوان للأمن، تشانغ فو، في مشاركته على أن مكافحة الذكاء الاصطناعي بالذكاء الاصطناعي ستكون جوهر نظام الدفاع السيبراني في المستقبل، "خلال 3 سنوات، سيقلب الذكاء الاصطناعي صناعة الأمان الحالية، وكل الصناعات التي تخدم الأعمال. ستعاد هيكلة المنتجات، مما يحقق كفاءة وقدرات غير مسبوقة. المنتجات المستقبلية ستكون موجهة للذكاء الاصطناعي، وليس للناس."
في وسط العديد من الحلول، يظهر نموذج Security Copilot بوضوح كدليل جيد على أن "المنتجات المستقبلية مصممة للاستخدام من قبل الذكاء الاصطناعي": قبل عام، أطلقت مايكروسوفت مساعد Microsoft Security Copilot الذكي لمساعدة فرق الأمان على اكتشاف والتحقيق والاستجابة لحوادث الأمان بسرعة ودقة؛ قبل شهر، أصدرت مرة أخرى كيانًا ذكائيًا للمساعدة تلقائيًا في مجالات حيوية مثل هجمات الصيد، وأمان البيانات، وإدارة الهوية.
أضافت مايكروسوفت ستة كائنات ذكاء اصطناعي جديدة من تطويرها لتوسيع وظائف Security Copilot. ثلاثة منها تساعد موظفي الأمن السيبراني في تصفية التنبيهات: كائن تصنيف التصيد يقوم بمراجعة تنبيهات التصيد، وتصفيه الإنذارات الكاذبة؛ أما الكائنان الآخران فيحللان إشعارات Purview، ويكتشفان حالات استخدام الموظفين غير المصرح به للبيانات التجارية.
يساعد وكيل تحسين الوصول الشرطي بالتعاون مع Microsoft Entra في تحديد قواعد الوصول غير الآمنة للمستخدمين، ويولد خطط إصلاح بنقرة واحدة لتنفيذها من قبل المسؤولين. يتم دمج وكيل إصلاح الثغرات وأداة إدارة الأجهزة Intune، مما يساعد في تحديد نقاط النهاية المعرضة للاختراق بسرعة، وتطبيق تصحيحات نظام التشغيل. يقوم وكيل تقرير معلومات التهديدات بإنشاء تقارير عن تهديدات الأمن السيبراني التي قد تهدد أنظمة المؤسسة.
03 无相：الحماية من L4 مستوى الوكلاء الذكيين المتقدمين
لا عجب، في الداخل، من أجل تحقيق مستوى الأمان الحقيقي لـ "القيادة الذاتية"، أطلقت شركة QingTeng Cloud Security كيان الأمان الذكي الشامل "Wu Xiang". كأول منتج أمان AI في العالم يحقق الانتقال من "AI المساعد" إلى "الكيان الذاتي" (Autopilot)، يكمن الإنجاز الأساسي في إحداث ثورة في نمط "الاستجابة السلبية" للأدوات التقليدية وجعلها ذاتية، أوتوماتيكية وذكية.
من خلال دمج تقنيات التعلم الآلي، ورسم الخرائط المعرفية، وقرارات الأتمتة، يمكن لـ "无相" إكمال دورة كاملة من الكشف عن التهديدات، وتقييم التأثير، إلى الاستجابة والمعالجة بشكل مستقل، مما يحقق حقًا قرارًا ذاتيًا وقيادة مستندة إلى الأهداف. تم تصميم "هيكل الذكاء الاصطناعي القائم على الوكيل" لمحاكاة منطق التعاون لفريق الأمان البشري: حيث يقوم "الدماغ" بدمج مكتبة المعرفة في الأمن السيبراني لدعم قدرات التخطيط، و"العين" تدرك بدقة ديناميات البيئة الشبكية، و"الأيدي والأرجل" تقوم باستدعاء مرنة لمجموعة متنوعة من أدوات الأمان، ومن خلال التعاون متعدد الوكلاء، يتم تشكيل شبكة تحليل فعالة تشارك المعلومات، مع تقسيم العمل وتبادل المعلومات.
تقنيًا، تعتمد "لا شكل" على "نموذج ReAct" (دورة التصرف-المراقبة-التفكير-التصرف) و"هيكل محركين مزدوجين AI + Action AI"، مما يضمن القدرة على تصحيح الديناميات في المهام المعقدة. عندما يحدث استدعاء أدوات غير اعتيادي، يمكن للنظام التبديل تلقائيًا إلى خطة بديلة بدلاً من إيقاف العملية، على سبيل المثال، في تحليل هجمات APT، تعمل Plan AI كـ "منظم" لتفكيك أهداف المهام، بينما تعمل Action AI كـ "خبير تحقيق" لتنفيذ تحليل السجلات ونمذجة التهديدات، ويحقق الاثنان تقدمًا متوازيًا استنادًا إلى رسم بياني للمعرفة المشتركة في الوقت الحقيقي.
على مستوى الوحدة الوظيفية ، قامت "Wuxiang" ببناء نظام بيئي مستقل كامل لصنع القرار: تحاكي شخصية الوكيل التفكير الانعكاسي والتكراري لمحللي الأمن وتعمل ديناميكيا على تحسين مسار صنع القرار ؛ يدمج استدعاء الأداة استعلام سجل أمان المضيف ، واسترجاع التحليل الذكي لتهديدات الشبكة ، وتحليل التعليمات البرمجية الضارة المستندة إلى LLM. الوعي بالبيئة: التقاط الأصول المضيفة ومعلومات الشبكة في الوقت الفعلي؛ يخزن الرسم البياني المعرفي بشكل ديناميكي جمعيات الكيانات للمساعدة في اتخاذ القرار. ينفذ التعاون متعدد الوكلاء المهام بالتوازي من خلال تقسيم المهام ومشاركة المعلومات.
حالياً، أداء "无相" في ثلاثة سيناريوهات تطبيق رئيسية، وهي تقييم الإنذارات، تحليل تتبع المصدر، وإصدار تقارير الأمان، هو الأفضل.
في العمليات الأمنية التقليدية، يستغرق التحقق من صحة الإنذارات الضخمة وقتًا وجهدًا كبيرين. على سبيل المثال، في حالة إنذار محلي متعلق بزيادة الامتياز: يقوم وكيل تحليل الإنذارات الذكي بتحليل خصائص التهديد تلقائيًا، ويستخدم أدوات مثل تحليل أذونات العمليات، وتتبع العمليات الأصلية، والتحقق من توقيع البرنامج، وفي النهاية يتم تحديده كإنذار كاذب - دون الحاجة إلى تدخل بشري طوال العملية. في اختبارات الإنذارات الحالية ل Qingteng، حقق هذا النظام معدل تغطية للإنذارات بنسبة 100% ودقة تحليل بنسبة 99.99%، وقام بتقليل عبء العمل اليدوي بأكثر من 95%.
في مواجهة التهديدات الحقيقية مثل هجوم Webshell، يؤكد الذكاء الاصطناعي فعالية الهجوم في ثوانٍ من خلال استخراج ميزات الشيفرة، وتحليل أذونات الملفات، وما إلى ذلك من الارتباطات البعدية. كانت التحقيقات العميقة التقليدية التي تتطلب تعاون عدة أقسام وتأخذ عدة أيام (مثل استعادة مسار التحميل، وتقييم التأثير الأفقي) تتم الآن بواسطة النظام الذي يربط تلقائيًا سجلات المضيف، وحركة المرور الشبكية، وبيانات السلوك الأساسية، مما يولد تقارير كاملة عن سلسلة الهجوم، ويقلص دورة الاستجابة من "أيام" إلى "دقائق".
"جوهر عملنا هو تحويل العلاقة بين الذكاء الاصطناعي والإنسان، حيث يمكن اعتبار الذكاء الاصطناعي كشخص للتعاون، مما يحقق الانتقال من L2 إلى L4، أي الانتقال من القيادة المساعدة إلى القيادة الذاتية المتقدمة." شارك هو جون، نائب رئيس المنتجات في Qingteng Lianchuang، "مع تزايد المشاهد التي يمكن أن يتكيف معها الذكاء الاصطناعي، ترتفع نسبة نجاح القرارات، مما يمكنه تدريجياً من تحمل المزيد من المسؤوليات، وبالتالي سيتغير تقسيم المسؤوليات بين الإنسان والذكاء الاصطناعي."
في هذا السيناريو لتحليل السلاسل، أولاً يتم تنبيه Webshell والذي يحفز فريق الأمان المتعدد الوكلاء المدفوع بـ "الذكاء غير الملموس" للتعاون في تتبع السلاسل: يقوم "خبير التحليل" بناءً على التنبيه بتحديد ملف one.jsp، وينتج مهام متوازية مثل تحليل محتوى الملف، تتبع مؤلف الملف، فحص الدليل نفسه، وتعقب العمليات. يتم استدعاء أدوات سجلات الملفات بواسطة وكيل "المحقق الأمني" لتحديد عملية java (12606) كمصدر للكتابة، ويتم إدراج هذه العملية والكمبيوتر المرتبط 10.108.108.23 (الذي تم اكتشاف تفاعل متكرر من خلال سجلات الوصول) في التحقيق.
تقوم الكيانات الذكية بتوسيع الأدلة ديناميكيًا من خلال خريطة التهديدات، من ملف واحد إلى الطبقات العميقة وصولًا إلى العمليات والأجهزة، وتقوم بتقييم النتائج المهمة التي يقدمها الخبراء لتحديد المخاطر بشكل شامل. ستقوم هذه العملية بضغط الفحص الذي يحتاجه الإنسان من ساعات إلى أيام إلى بضع دقائق، لتجاوز دقة خبراء الأمن البشريين المتقدمين في إعادة بناء سلسلة الهجوم بالكامل، وتتبع مسارات الحركة الأفقية دون أي زوايا ميتة، كما تشير تقييمات الفريق الأحمر إلى أنه من الصعب تجنب تحقيقاتها الشاملة.
"النموذج الكبير أفضل من الإنسان لأنه يمكنه فحص كل زاوية وركن بدقة، بدلاً من الاعتماد على الخبرة لاستبعاد الحالات ذات الاحتمالية المنخفضة." شرح هو جين، "هذا يعني أنه يتمتع بعمق وعرض أفضل."
بعد الانتهاء من التحقيق في سيناريوهات الهجوم المعقدة، غالبًا ما يكون تجميع الإنذارات وأدلة التحقيق وإعداد التقارير عملية تستغرق وقتًا طويلاً. يمكن للذكاء الاصطناعي تحقيق تلخيص بنقرة واحدة، مما يعرض عملية الهجوم بشكل واضح في شكل خط زمني مرئي، كما لو كان عرضًا متسلسلًا للأحداث الرئيسية في فيلم - حيث يقوم النظام تلقائيًا بترتيب الأدلة الرئيسية لإنشاء إطارات رئيسية لسلسلة الهجوم، ويجمع مع معلومات السياق البيئي، وأخيرًا ينتج خريطة ديناميكية لسلسلة الهجوم، مما يجعل مسار الهجوم بالكامل يظهر بطريقة بصرية ثلاثية الأبعاد.
04 الخاتمة
من الواضح أن تطور تقنية الذكاء الاصطناعي يطرح تحديات مزدوجة لأمن الشبكات.
من ناحية، يستفيد المهاجمون من الذكاء الاصطناعي لتحقيق الأتمتة، والتخصيص، والسرية للهجمات؛ ومن ناحية أخرى، يجب على الدفاع تسريع الابتكار التكنولوجي، من خلال تعزيز قدرة الكشف والاستجابة باستخدام الذكاء الاصطناعي. في المستقبل، ستحدد المنافسة التكنولوجية للذكاء الاصطناعي بين الطرفين، الهجوم والدفاع، الوضع العام للأمن السيبراني، بينما سيكون تحسين الوكلاء الأمنيين هو المفتاح لتحقيق التوازن بين المخاطر والتنمية.
وجلبت الذكاء الاصطناعي الآمن "لا شكل" تغييرات جديدة على مستوى الهيكل الأمني والوعي.
«اللاصفة» في جوهرها تغير من طريقة استخدام الذكاء الاصطناعي، حيث تكمن قوتها في دمج إدراك البيانات متعددة الأبعاد، وتوليد استراتيجيات الحماية، وقابلية تفسير القرار في كيان عضوي واحد - من النمط السابق الذي كان يستخدم فيه الذكاء الاصطناعي كأداة إلى تمكين الذكاء الاصطناعي ليعمل بشكل مستقل وآلي.
من خلال تحليل السجلات والنصوص والبيانات المتباينة مثل حركة المرور، يمكن للنظام التقاط خيوط أنشطة APT قبل أن يتمكن المهاجم من بناء سلسلة هجمات كاملة. والأهم من ذلك، أن عملية اتخاذ القرار المرئية والتفسير المنطقي تجعل الإنذارات المظلمة للأدوات التقليدية التي "تعرف الأسباب لكنها لا تعرف الأسباب" من الماضي - حيث يمكن لفريق الأمان رؤية التهديدات وفهم منطق تطورها.
جوهر هذا الابتكار هو الانتقال في التفكير الأمني من "إصلاح ما بعد الفقد" إلى "الاستعداد للمطر قبل أن يهطل"، وهو إعادة تعريف لقواعد لعبة الهجوم والدفاع.
"اللا شكل" يشبه صيادًا يمتلك حدسًا رقميًا: من خلال نمذجة الوقت الحقيقي لعمليات الذاكرة وخصائص السلوك الدقيقة، يمكنه استخراج أحصنة طروادة المخصصة المخفية من ضوضاء هائلة؛ محرك إدارة السطح الهجومي الديناميكي يقوم بتقييم مستمر لوزن مخاطر الأصول، لضمان توجيه موارد الحماية بدقة نحو الأنظمة الحيوية؛ بينما آلية الهضم الذكي لمعلومات التهديدات، تحول آلاف الإنذارات اليومية إلى أوامر دفاعية قابلة للتنفيذ، بل وتوقع اتجاه تطور أنواع الهجوم - عندما لا تزال الحلول التقليدية تتعب في مواجهة التسللات التي حدثت بالفعل، "اللا شكل" قد بدأ بالفعل في توقع وإغلاق خطوات المعتدي التالية.
"إن ولادة نظام الذكاء الاصطناعي المركزي (الوكيل الذكي عالي الأمان) ستعيد تشكيل مشهد الأمن السيبراني بشكل جذري. وكل ما علينا فعله هو اغتنام هذه الفرصة بشكل كامل." قال تشانغ فوداو.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
«هاكر الذكاء الاصطناعي» قادم، كيف يمكن لـ Agentic AI أن يصبح الحارس الجديد؟
المؤلف: الارتفاع المثير
01 الذكاء الاصطناعي في صعود: الحرب الخفية على الأمن تحت سيف التكنولوجيا المزدوج
مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، أصبحت التهديدات التي تواجه الأمن السيبراني أكثر تعقيدًا، حيث أصبحت أساليب الهجوم أكثر كفاءةً وخفاءً، مما أدى إلى ظهور أشكال جديدة من "الهاكرز الذكاء الاصطناعي"، وبالتالي أثارت أنواع جديدة من الأزمات الأمنية السيبرانية.
أولاً، يعمل الذكاء الاصطناعي التوليدي على إعادة تشكيل "دقة" الاحتيال عبر الإنترنت.
ببساطة، يعني ذلك تحويل هجمات التصيد التقليدية إلى شكل ذكي، على سبيل المثال في سيناريوهات أكثر دقة، سيستخدم المهاجمون البيانات الاجتماعية العامة لتدريب نماذج الذكاء الاصطناعي، لتوليد رسائل تصيد مخصصة بشكل كبير، مقلدين أسلوب كتابة أو عادات لغوية لمستخدمين محددين، لتنفيذ عمليات احتيال "مخصصة"، متجاوزين مرشحات البريد العشوائي التقليدية، مما يزيد بشكل كبير من نسبة نجاح الهجمات.
ثم يأتي ما يعرفه الجمهور بشكل أفضل وهو التزييف العميق (Deepfake) وانتحال الهوية. قبل نضوج تقنية الذكاء الاصطناعي، كانت "هجمات تغيير الوجه التقليدية"، والمعروفة أيضًا باسم احتيال BEC، والتي تعني "اختراق البريد الإلكتروني للأعمال"، حيث يقوم المهاجم بتزوير مرسل البريد الإلكتروني ليبدو كأنه قائدك أو زميلك أو شريكك التجاري، وذلك لخداعك للحصول على معلومات تجارية أو أموال، أو للحصول على معلومات مهمة أخرى.
الآن ، "تغيير الوجه" حدث حقًا. يمكن لتقنية تغيير الوجه وتغيير الصوت التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تزوير هوية الشخصيات العامة أو الأصدقاء المقربين ، واستخدامها في الاحتيال ، والتلاعب بالرأي العام ، وحتى التدخل السياسي. قبل شهرين فقط ، تلقى المدير المالي لشركة في شنغهاي دعوة لمؤتمر فيديو من "الرئيس" ، حيث زعم الطرف الآخر من خلال تغيير الوجه المزيف بالصوت أنه يحتاج إلى دفع "ضمان تعاون خارجي" بشكل عاجل ، وقد حول المدير المالي 3.8 مليون يوان إلى حساب محدد بناءً على التعليمات ، ثم اكتشف أنه كان ضحية لعصابة احتيال خارجية تستخدم تقنية التزوير العميق.
الثالث هو الهجمات الآلية واستغلال الثغرات. تقدم تقنية الذكاء الاصطناعي سمح بتطور العديد من السيناريوهات نحو الذكاء الآلي، وكذلك الهجمات الإلكترونية. يمكن للمهاجمين استخدام الذكاء الاصطناعي لمسح الثغرات في الأنظمة تلقائيًا، وإنشاء شفرات هجوم ديناميكية، وتنفيذ هجمات سريعة وغير متحيزة على الأهداف، على سبيل المثال، الهجمات "زيرو داي" التي يقودها الذكاء الاصطناعي ستقوم بكتابة وتنفيذ برامج ضارة فور اكتشاف الثغرات، مما يجعل أنظمة الدفاع التقليدية تواجه صعوبة في الاستجابة في الوقت الحقيقي.
في عيد الربيع هذا العام، تعرض موقع DeepSeek لهجوم DDoS ضخم بقوة 3.2Tbps، حيث قام القراصنة بالتسلل من خلال واجهة برمجة التطبيقات لحقن نماذج مضادة، مما أدى إلى تعديل أوزان النموذج وتعطل الخدمات الأساسية لمدة 48 ساعة، مع خسائر اقتصادية مباشرة تزيد عن عشرات الملايين من الدولارات، وبعد ذلك، تم اكتشاف آثار تسلل NSA الأمريكية التي كانت تتواجد لفترة طويلة.
تلوث البيانات والثغرات في النماذج هي أيضًا تهديد جديد. يقوم المهاجمون بزرع معلومات زائفة في بيانات تدريب الذكاء الاصطناعي (أي تسمم البيانات) أو استغلال عيوب النموذج نفسه، مما يدفع الذكاء الاصطناعي لإنتاج نتائج خاطئة - مما يشكل تهديدًا مباشرًا للأمان في المجالات الحيوية، وقد يؤدي حتى إلى عواقب كارثية متسلسلة، مثل أنظمة القيادة الذاتية التي تسيء تفسير العينة المضادة "حظر المرور" على أنها "علامة حد السرعة"، أو الذكاء الاصطناعي الطبي الذي يخطئ في تشخيص ورم حميد على أنه خبيث.
02 الذكاء الاصطناعي لا يزال يحتاج إلى الذكاء الاصطناعي
في مواجهة التهديدات الجديدة للأمن السيبراني المدفوعة بالذكاء الاصطناعي، أصبحت نماذج الحماية التقليدية ضعيفة. فماذا لدينا من استراتيجيات للتعامل مع ذلك؟
ليس من الصعب أن نلاحظ أن الإجماع في الصناعة حاليا يشير إلى "مواجهة الذكاء الاصطناعي بالذكاء الاصطناعي" - وهذا ليس مجرد ترقية للوسائل التقنية، بل هو أيضا تغيير في نموذج الأمان.
تنقسم المحاولات الحالية أساسًا إلى ثلاث فئات رئيسية: تقنيات الحماية الأمنية لنماذج الذكاء الاصطناعي، وتطبيقات الدفاع على مستوى الصناعة، والتعاون الحكومي والدولي على مستوى أكثر شمولية.
تكمن النقطة الأساسية في تقنيات حماية أمان نماذج الذكاء الاصطناعي في تعزيز الأمان الداخلي للنموذج.
كمثال على ثغرات "الهروب" في نماذج اللغة الكبيرة (LLM)، فإن آلية الحماية الأمنية غالبًا ما تفشل بسبب استراتيجيات تحذير الهروب العامة - حيث يقوم المهاجمون بتجاوز طبقات الحماية المدمجة في النموذج بشكل منهجي، مما يؤدي إلى إغراء الذكاء الاصطناعي لإنتاج محتوى عنيف أو تمييزي أو غير قانوني. لمنع "الهروب" في LLM، قامت شركات النماذج المختلفة بتجارب، مثلما أصدرت شركة Anthropic "مُصنف الدستور" في فبراير من هذا العام.
تشير "الدستور" هنا إلى قواعد اللغة الطبيعية التي لا يمكن انتهاكها، كإجراء ضمان تم تدريبه على بيانات مركبة، من خلال تحديد المحتويات المسموح بها والمقيدة، ومراقبة المدخلات والمخرجات في الوقت الحقيقي. في اختبار الظروف القياسية، زادت نسبة نجاح نموذج Claude3.5 في منع محاولات الاختراق المتقدمة تحت حماية المصنف من 14% إلى 95%، مما خفض بشكل ملحوظ من مخاطر "الاختراق" للذكاء الاصطناعي.
بالإضافة إلى الأساليب الدفاعية الأكثر عمومية المستندة إلى النماذج، فإن تطبيقات الدفاع على مستوى الصناعة تستحق أيضًا الاهتمام، حيث أصبح الحماية السياقية في المجالات الرأسية نقطة اختراق رئيسية: يبني القطاع المالي حواجز ضد الاحتيال من خلال نماذج إدارة المخاطر المستندة إلى الذكاء الاصطناعي وتحليل البيانات متعددة النماذج، بينما تحقق البيئة مفتوحة المصدر استجابة سريعة للتهديدات صفرية اليوم بفضل تقنيات اكتشاف الثغرات الذكية، وتعتمد حماية المعلومات الحساسة للشركات على نظام التحكم الديناميكي المدفوع بالذكاء الاصطناعي.
على سبيل المثال، الحل الذي عرضته سيسكو في أسبوع الشبكات الدولي في سنغافورة يمكنه اعتراض طلبات استعلام البيانات الحساسة المقدمة من الموظفين إلى ChatGPT في الوقت الفعلي، وإنشاء تقارير تدقيق متوافقة تلقائيًا لتحسين حلقة الإدارة.
على المستوى الكلي، تتسارع جهود التعاون بين الحكومة والمناطق الدولية. أصدرت هيئة الأمن السيبراني في سنغافورة "إرشادات سلامة أنظمة الذكاء الاصطناعي"، من خلال فرض نشر محلي وآليات تشفير البيانات للحد من إساءة استخدام الذكاء الاصطناعي التوليدي، وخاصة في إنشاء معايير حماية للتعرف على الهوية المزورة للذكاء الاصطناعي في هجمات التصيد الاحتيالي؛ كما أطلقت الدول الثلاث، الولايات المتحدة والمملكة المتحدة وكندا، بشكل متزامن "برنامج وكلاء الإنترنت للذكاء الاصطناعي"، مع التركيز على تطوير أنظمة موثوقة وتقييم الهجمات المتقدمة في الوقت الفعلي، وتعزيز قدرات الدفاع الجماعي من خلال نظام الشهادات الأمنية المشتركة.
إذن، ما هي الطرق التي يمكن أن تستخدم الذكاء الاصطناعي إلى أقصى حد لمواجهة تحديات الأمن السيبراني في عصر الذكاء الاصطناعي؟
"المستقبل يحتاج إلى مركز ذكي آمن مدعوم بالذكاء الاصطناعي وبناء نظام جديد حول المركز." في منتدى ووهان للابتكار في الأمن السيبراني الثاني، أكد مؤسس شركة كينغتنج يوان للأمن، تشانغ فو، في مشاركته على أن مكافحة الذكاء الاصطناعي بالذكاء الاصطناعي ستكون جوهر نظام الدفاع السيبراني في المستقبل، "خلال 3 سنوات، سيقلب الذكاء الاصطناعي صناعة الأمان الحالية، وكل الصناعات التي تخدم الأعمال. ستعاد هيكلة المنتجات، مما يحقق كفاءة وقدرات غير مسبوقة. المنتجات المستقبلية ستكون موجهة للذكاء الاصطناعي، وليس للناس."
في وسط العديد من الحلول، يظهر نموذج Security Copilot بوضوح كدليل جيد على أن "المنتجات المستقبلية مصممة للاستخدام من قبل الذكاء الاصطناعي": قبل عام، أطلقت مايكروسوفت مساعد Microsoft Security Copilot الذكي لمساعدة فرق الأمان على اكتشاف والتحقيق والاستجابة لحوادث الأمان بسرعة ودقة؛ قبل شهر، أصدرت مرة أخرى كيانًا ذكائيًا للمساعدة تلقائيًا في مجالات حيوية مثل هجمات الصيد، وأمان البيانات، وإدارة الهوية.
أضافت مايكروسوفت ستة كائنات ذكاء اصطناعي جديدة من تطويرها لتوسيع وظائف Security Copilot. ثلاثة منها تساعد موظفي الأمن السيبراني في تصفية التنبيهات: كائن تصنيف التصيد يقوم بمراجعة تنبيهات التصيد، وتصفيه الإنذارات الكاذبة؛ أما الكائنان الآخران فيحللان إشعارات Purview، ويكتشفان حالات استخدام الموظفين غير المصرح به للبيانات التجارية.
يساعد وكيل تحسين الوصول الشرطي بالتعاون مع Microsoft Entra في تحديد قواعد الوصول غير الآمنة للمستخدمين، ويولد خطط إصلاح بنقرة واحدة لتنفيذها من قبل المسؤولين. يتم دمج وكيل إصلاح الثغرات وأداة إدارة الأجهزة Intune، مما يساعد في تحديد نقاط النهاية المعرضة للاختراق بسرعة، وتطبيق تصحيحات نظام التشغيل. يقوم وكيل تقرير معلومات التهديدات بإنشاء تقارير عن تهديدات الأمن السيبراني التي قد تهدد أنظمة المؤسسة.
03 无相：الحماية من L4 مستوى الوكلاء الذكيين المتقدمين
لا عجب، في الداخل، من أجل تحقيق مستوى الأمان الحقيقي لـ "القيادة الذاتية"، أطلقت شركة QingTeng Cloud Security كيان الأمان الذكي الشامل "Wu Xiang". كأول منتج أمان AI في العالم يحقق الانتقال من "AI المساعد" إلى "الكيان الذاتي" (Autopilot)، يكمن الإنجاز الأساسي في إحداث ثورة في نمط "الاستجابة السلبية" للأدوات التقليدية وجعلها ذاتية، أوتوماتيكية وذكية.
من خلال دمج تقنيات التعلم الآلي، ورسم الخرائط المعرفية، وقرارات الأتمتة، يمكن لـ "无相" إكمال دورة كاملة من الكشف عن التهديدات، وتقييم التأثير، إلى الاستجابة والمعالجة بشكل مستقل، مما يحقق حقًا قرارًا ذاتيًا وقيادة مستندة إلى الأهداف. تم تصميم "هيكل الذكاء الاصطناعي القائم على الوكيل" لمحاكاة منطق التعاون لفريق الأمان البشري: حيث يقوم "الدماغ" بدمج مكتبة المعرفة في الأمن السيبراني لدعم قدرات التخطيط، و"العين" تدرك بدقة ديناميات البيئة الشبكية، و"الأيدي والأرجل" تقوم باستدعاء مرنة لمجموعة متنوعة من أدوات الأمان، ومن خلال التعاون متعدد الوكلاء، يتم تشكيل شبكة تحليل فعالة تشارك المعلومات، مع تقسيم العمل وتبادل المعلومات.
تقنيًا، تعتمد "لا شكل" على "نموذج ReAct" (دورة التصرف-المراقبة-التفكير-التصرف) و"هيكل محركين مزدوجين AI + Action AI"، مما يضمن القدرة على تصحيح الديناميات في المهام المعقدة. عندما يحدث استدعاء أدوات غير اعتيادي، يمكن للنظام التبديل تلقائيًا إلى خطة بديلة بدلاً من إيقاف العملية، على سبيل المثال، في تحليل هجمات APT، تعمل Plan AI كـ "منظم" لتفكيك أهداف المهام، بينما تعمل Action AI كـ "خبير تحقيق" لتنفيذ تحليل السجلات ونمذجة التهديدات، ويحقق الاثنان تقدمًا متوازيًا استنادًا إلى رسم بياني للمعرفة المشتركة في الوقت الحقيقي.
على مستوى الوحدة الوظيفية ، قامت "Wuxiang" ببناء نظام بيئي مستقل كامل لصنع القرار: تحاكي شخصية الوكيل التفكير الانعكاسي والتكراري لمحللي الأمن وتعمل ديناميكيا على تحسين مسار صنع القرار ؛ يدمج استدعاء الأداة استعلام سجل أمان المضيف ، واسترجاع التحليل الذكي لتهديدات الشبكة ، وتحليل التعليمات البرمجية الضارة المستندة إلى LLM. الوعي بالبيئة: التقاط الأصول المضيفة ومعلومات الشبكة في الوقت الفعلي؛ يخزن الرسم البياني المعرفي بشكل ديناميكي جمعيات الكيانات للمساعدة في اتخاذ القرار. ينفذ التعاون متعدد الوكلاء المهام بالتوازي من خلال تقسيم المهام ومشاركة المعلومات.
حالياً، أداء "无相" في ثلاثة سيناريوهات تطبيق رئيسية، وهي تقييم الإنذارات، تحليل تتبع المصدر، وإصدار تقارير الأمان، هو الأفضل.
في العمليات الأمنية التقليدية، يستغرق التحقق من صحة الإنذارات الضخمة وقتًا وجهدًا كبيرين. على سبيل المثال، في حالة إنذار محلي متعلق بزيادة الامتياز: يقوم وكيل تحليل الإنذارات الذكي بتحليل خصائص التهديد تلقائيًا، ويستخدم أدوات مثل تحليل أذونات العمليات، وتتبع العمليات الأصلية، والتحقق من توقيع البرنامج، وفي النهاية يتم تحديده كإنذار كاذب - دون الحاجة إلى تدخل بشري طوال العملية. في اختبارات الإنذارات الحالية ل Qingteng، حقق هذا النظام معدل تغطية للإنذارات بنسبة 100% ودقة تحليل بنسبة 99.99%، وقام بتقليل عبء العمل اليدوي بأكثر من 95%.
في مواجهة التهديدات الحقيقية مثل هجوم Webshell، يؤكد الذكاء الاصطناعي فعالية الهجوم في ثوانٍ من خلال استخراج ميزات الشيفرة، وتحليل أذونات الملفات، وما إلى ذلك من الارتباطات البعدية. كانت التحقيقات العميقة التقليدية التي تتطلب تعاون عدة أقسام وتأخذ عدة أيام (مثل استعادة مسار التحميل، وتقييم التأثير الأفقي) تتم الآن بواسطة النظام الذي يربط تلقائيًا سجلات المضيف، وحركة المرور الشبكية، وبيانات السلوك الأساسية، مما يولد تقارير كاملة عن سلسلة الهجوم، ويقلص دورة الاستجابة من "أيام" إلى "دقائق".
"جوهر عملنا هو تحويل العلاقة بين الذكاء الاصطناعي والإنسان، حيث يمكن اعتبار الذكاء الاصطناعي كشخص للتعاون، مما يحقق الانتقال من L2 إلى L4، أي الانتقال من القيادة المساعدة إلى القيادة الذاتية المتقدمة." شارك هو جون، نائب رئيس المنتجات في Qingteng Lianchuang، "مع تزايد المشاهد التي يمكن أن يتكيف معها الذكاء الاصطناعي، ترتفع نسبة نجاح القرارات، مما يمكنه تدريجياً من تحمل المزيد من المسؤوليات، وبالتالي سيتغير تقسيم المسؤوليات بين الإنسان والذكاء الاصطناعي."
في هذا السيناريو لتحليل السلاسل، أولاً يتم تنبيه Webshell والذي يحفز فريق الأمان المتعدد الوكلاء المدفوع بـ "الذكاء غير الملموس" للتعاون في تتبع السلاسل: يقوم "خبير التحليل" بناءً على التنبيه بتحديد ملف one.jsp، وينتج مهام متوازية مثل تحليل محتوى الملف، تتبع مؤلف الملف، فحص الدليل نفسه، وتعقب العمليات. يتم استدعاء أدوات سجلات الملفات بواسطة وكيل "المحقق الأمني" لتحديد عملية java (12606) كمصدر للكتابة، ويتم إدراج هذه العملية والكمبيوتر المرتبط 10.108.108.23 (الذي تم اكتشاف تفاعل متكرر من خلال سجلات الوصول) في التحقيق.
تقوم الكيانات الذكية بتوسيع الأدلة ديناميكيًا من خلال خريطة التهديدات، من ملف واحد إلى الطبقات العميقة وصولًا إلى العمليات والأجهزة، وتقوم بتقييم النتائج المهمة التي يقدمها الخبراء لتحديد المخاطر بشكل شامل. ستقوم هذه العملية بضغط الفحص الذي يحتاجه الإنسان من ساعات إلى أيام إلى بضع دقائق، لتجاوز دقة خبراء الأمن البشريين المتقدمين في إعادة بناء سلسلة الهجوم بالكامل، وتتبع مسارات الحركة الأفقية دون أي زوايا ميتة، كما تشير تقييمات الفريق الأحمر إلى أنه من الصعب تجنب تحقيقاتها الشاملة.
"النموذج الكبير أفضل من الإنسان لأنه يمكنه فحص كل زاوية وركن بدقة، بدلاً من الاعتماد على الخبرة لاستبعاد الحالات ذات الاحتمالية المنخفضة." شرح هو جين، "هذا يعني أنه يتمتع بعمق وعرض أفضل."
بعد الانتهاء من التحقيق في سيناريوهات الهجوم المعقدة، غالبًا ما يكون تجميع الإنذارات وأدلة التحقيق وإعداد التقارير عملية تستغرق وقتًا طويلاً. يمكن للذكاء الاصطناعي تحقيق تلخيص بنقرة واحدة، مما يعرض عملية الهجوم بشكل واضح في شكل خط زمني مرئي، كما لو كان عرضًا متسلسلًا للأحداث الرئيسية في فيلم - حيث يقوم النظام تلقائيًا بترتيب الأدلة الرئيسية لإنشاء إطارات رئيسية لسلسلة الهجوم، ويجمع مع معلومات السياق البيئي، وأخيرًا ينتج خريطة ديناميكية لسلسلة الهجوم، مما يجعل مسار الهجوم بالكامل يظهر بطريقة بصرية ثلاثية الأبعاد.
04 الخاتمة
من الواضح أن تطور تقنية الذكاء الاصطناعي يطرح تحديات مزدوجة لأمن الشبكات.
من ناحية، يستفيد المهاجمون من الذكاء الاصطناعي لتحقيق الأتمتة، والتخصيص، والسرية للهجمات؛ ومن ناحية أخرى، يجب على الدفاع تسريع الابتكار التكنولوجي، من خلال تعزيز قدرة الكشف والاستجابة باستخدام الذكاء الاصطناعي. في المستقبل، ستحدد المنافسة التكنولوجية للذكاء الاصطناعي بين الطرفين، الهجوم والدفاع، الوضع العام للأمن السيبراني، بينما سيكون تحسين الوكلاء الأمنيين هو المفتاح لتحقيق التوازن بين المخاطر والتنمية.
وجلبت الذكاء الاصطناعي الآمن "لا شكل" تغييرات جديدة على مستوى الهيكل الأمني والوعي.
«اللاصفة» في جوهرها تغير من طريقة استخدام الذكاء الاصطناعي، حيث تكمن قوتها في دمج إدراك البيانات متعددة الأبعاد، وتوليد استراتيجيات الحماية، وقابلية تفسير القرار في كيان عضوي واحد - من النمط السابق الذي كان يستخدم فيه الذكاء الاصطناعي كأداة إلى تمكين الذكاء الاصطناعي ليعمل بشكل مستقل وآلي.
من خلال تحليل السجلات والنصوص والبيانات المتباينة مثل حركة المرور، يمكن للنظام التقاط خيوط أنشطة APT قبل أن يتمكن المهاجم من بناء سلسلة هجمات كاملة. والأهم من ذلك، أن عملية اتخاذ القرار المرئية والتفسير المنطقي تجعل الإنذارات المظلمة للأدوات التقليدية التي "تعرف الأسباب لكنها لا تعرف الأسباب" من الماضي - حيث يمكن لفريق الأمان رؤية التهديدات وفهم منطق تطورها.
جوهر هذا الابتكار هو الانتقال في التفكير الأمني من "إصلاح ما بعد الفقد" إلى "الاستعداد للمطر قبل أن يهطل"، وهو إعادة تعريف لقواعد لعبة الهجوم والدفاع.
"اللا شكل" يشبه صيادًا يمتلك حدسًا رقميًا: من خلال نمذجة الوقت الحقيقي لعمليات الذاكرة وخصائص السلوك الدقيقة، يمكنه استخراج أحصنة طروادة المخصصة المخفية من ضوضاء هائلة؛ محرك إدارة السطح الهجومي الديناميكي يقوم بتقييم مستمر لوزن مخاطر الأصول، لضمان توجيه موارد الحماية بدقة نحو الأنظمة الحيوية؛ بينما آلية الهضم الذكي لمعلومات التهديدات، تحول آلاف الإنذارات اليومية إلى أوامر دفاعية قابلة للتنفيذ، بل وتوقع اتجاه تطور أنواع الهجوم - عندما لا تزال الحلول التقليدية تتعب في مواجهة التسللات التي حدثت بالفعل، "اللا شكل" قد بدأ بالفعل في توقع وإغلاق خطوات المعتدي التالية.
"إن ولادة نظام الذكاء الاصطناعي المركزي (الوكيل الذكي عالي الأمان) ستعيد تشكيل مشهد الأمن السيبراني بشكل جذري. وكل ما علينا فعله هو اغتنام هذه الفرصة بشكل كامل." قال تشانغ فوداو.