في ظل طوفان DeepFake ، هل يمكن للعلامات المائية أن تجلب المزيد من الثقة إلى AIGC؟

بقلم: كلير ليبوفيتش

المصدر: MIT Technology Review

* مصدر الصورة: تم إنشاؤه بواسطة أداة Unbounded AI *

من الواضح أن AIGC بحاجة إلى الشفافية ، لكن قيمة التدابير مثل العلامات المائية ليست واضحة.

في أواخر مايو ، انتشرت صور البنتاغون المشتعلة. وعلى بعد أميال ، سارع مساعدو البيت الأبيض والمراسلون لمعرفة ما إذا كانت صور المبنى المنفجر حقيقية.

اتضح أن هذه الصور تم إنشاؤها بواسطة الذكاء الاصطناعي. لكن المسؤولين الحكوميين والصحفيين وشركات التكنولوجيا لم يتمكنوا من التصرف قبل أن يكون للصور تأثير حقيقي. لم يتسبب ذلك في حدوث ارتباك فحسب ، بل أدى أيضًا إلى هبوط الأسواق المالية.

المحتوى المتلاعب والمضلل ليس ظاهرة جديدة. لكن الذكاء الاصطناعي يجعل إنشاء المحتوى أسهل وأكثر واقعية في كثير من الأحيان. بينما يمكن استخدام الذكاء الاصطناعي للتعبير الفني أو تحسينات إمكانية الوصول ، يمكن أيضًا إساءة استخدامه للتشكيك في الأحداث السياسية أو للتشهير بالسمعة والمضايقة والاستغلال.

سواء كان ذلك لتعزيز نزاهة الانتخابات ، أو حماية الأدلة ، أو تقليل المعلومات المضللة ، أو الحفاظ على السجلات التاريخية ، يمكن للجماهير الاستفادة من معرفة ما إذا كان قد تم التلاعب بالمحتوى أو تم إنشاؤه بواسطة الذكاء الاصطناعي. إذا كانت صورة البنتاغون تحتوي على قطع أثرية تم إنشاؤها بواسطة الذكاء الاصطناعي ، فقد تكون المنصات التقنية قادرة على اتخاذ إجراءات بسرعة أكبر ؛ في الوقت المناسب كان بإمكانهم تقليل انتشار الصورة ، أو وضع علامة على المحتوى حتى يتمكن الجمهور من التعرف بسهولة على الصورة على أنها مزيفة. هذا يتجنب الارتباك ، وبالتالي ، تقلبات السوق.

لا شك أننا بحاجة إلى مزيد من الشفافية للتمييز بين الحقيقي والمزيف. في الشهر الماضي ، درس البيت الأبيض كيف يمكن القيام بذلك ، وأعلن أن سبع من أبرز شركات الذكاء الاصطناعي قد تعهدت "بتطوير تدابير تقنية قوية لضمان معرفة المستخدمين بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ، مثل العلامات المائية".

تعتبر طرق الإفصاح مثل العلامات المائية بداية جيدة. ومع ذلك ، فإن هذه الأساليب معقدة من الناحية العملية ، وهي ليست حلاً سريعًا وفعالًا. من غير الواضح ما إذا كانت العلامة المائية ستساعد مستخدمي تويتر على تحديد صورة مزيفة للبنتاغون ، أو أن صوت ترامب في حملة إعلانية حديثة قد تم تصنيعه. وهل المناهج الأخرى ، مثل الكشف عن المصدر والبيانات الوصفية ، لها تأثير أكبر؟ الأهم من ذلك ، هل مجرد الكشف عن هذا المحتوى من إنشاء الذكاء الاصطناعي يساعد الجماهير على التمييز بين الحقيقة والخيال ، أو تخفيف الضرر في العالم الحقيقي؟

للإجابة على هذه الأسئلة ، نحتاج إلى توضيح المقصود بالعلامات المائية وأنواع طرق الكشف الأخرى. نحن بحاجة إلى أن نكون واضحين بشأن ماهيتها ، وما يمكن أن نتوقع منه بشكل معقول أن يفعلوه ، وما هي المشاكل الموجودة حتى لو تم تقديم هذه الأساليب. بقدر ما قد يبدو الجدل حول التعريفات متحذلقًا ، فإن الاستخدام الواسع لمصطلح "العلامة المائية" يتسبب حاليًا في حدوث ارتباك عبر مجال الذكاء الاصطناعي. يعد تحديد ما تعنيه هذه الأساليب المختلفة شرطًا أساسيًا مهمًا للتعاون في مجال الذكاء الاصطناعي والاتفاق على معايير الكشف. خلاف ذلك ، سيتحدث الناس مع بعضهم البعض.

لقد رأيت هذه المشكلة بشكل مباشر عندما كنت أقود جهود الشراكة غير الربحية حول الذكاء الاصطناعي (PAI) متعددة القطاعات لتطوير إرشادات للوسائط التركيبية المسؤولة ، مع منظمات مثل OpenAI و Adobe و Witness و Microsoft و BBC وغيرها وعدت .

من ناحية أخرى ، يمكن أن تشير العلامة المائية إلى إشارة مرئية للمستخدم النهائي (على سبيل المثال ، الكلمات "Getty Images" المطبوعة على وسائط موفر الصور). ومع ذلك ، يمكن أن يشير أيضًا إلى الإشارات الفنية المضمنة في المحتوى غير المحسوس بالعين المجردة أو الأذن. كلا النوعين من العلامات المائية - المعروفين باسم الإفصاح "المباشر" و "غير المباشر" - ضروريان لضمان الشفافية. لذلك ، يجب أن تؤكد أي مناقشة للتحديات والفرص المتعلقة بالعلامة المائية على نوع العلامة المائية التي يتم تقييمها.

لزيادة تعقيد الأمور ، غالبًا ما تستخدم العلامة المائية كمصطلح "مظلة" للفعل العام لتوفير الكشف عن المحتوى ، على الرغم من وجود العديد من الأساليب. تكشف القراءة الدقيقة لتعهد البيت الأبيض عن طريقة أخرى للإفصاح تُعرف باسم "المصدر" ، والتي تعتمد على التوقيعات المشفرة بدلاً من الإشارات غير المرئية. ومع ذلك ، غالبًا ما يوصف هذا في وسائل الإعلام الشعبية بأنه علامة مائية أيضًا. إذا وجدت هذه المصطلحات المختلطة محيرة ، فلا تقلق ، فأنت لست وحدك. الوضوح مهم: إذا لم نتمكن حتى من الاتفاق على ما نسميه التقنيات المختلفة ، فلن تكون هناك تدابير شفافية متسقة وقوية في مجال الذكاء الاصطناعي.

رداً على ذلك ، أقترح ستة أسئلة أولية يمكن أن تساعدنا في تقييم فائدة العلامة المائية وغيرها من طرق الكشف عن الذكاء الاصطناعي. يجب أن تساعد هذه الأسئلة في ضمان أن جميع الأطراف تناقش بالضبط نفس القضايا وأنه يمكننا تقييم كل نهج بطريقة شاملة ومتسقة.

** هل يمكن العبث بالعلامة المائية نفسها؟ **

ومن المفارقات أن الإشارات الفنية التي توصف بأنها مفيدة في قياس أصل المحتوى وكيف تم تعديله يمكن أحيانًا العبث بها. على الرغم من صعوبة ذلك ، يمكن إزالة العلامات المائية غير المرئية والمرئية أو العبث بها. تختلف سهولة العبث بالعلامات المائية حسب نوع المحتوى.

** هل تتسق صلاحية العلامة المائية لأنواع مختلفة من المحتوى؟ **

في حين يتم الإعلان عن العلامة المائية غير المرئية كحل واسع للتعامل مع الذكاء الاصطناعي التوليدي ، فإن مثل هذه الإشارات المضمنة يمكن معالجتها بسهولة في النص أكثر من المحتوى السمعي البصري. يفسر هذا على الأرجح سبب اقتراح البيت الأبيض بأن العلامة المائية ستطبق على جميع أنواع الذكاء الاصطناعي ، لكنه يوضح بالكامل أن الشركة تلتزم فقط بالكشف عن المواد السمعية والبصرية. لذلك ، عند تطوير سياسة الذكاء الاصطناعي ، من الضروري تحديد كيفية اختلاف تقنيات الكشف مثل العلامة المائية غير المرئية في فعاليتها وقوتها التقنية الأوسع عبر أنواع المحتوى. قد يكون حل الكشف مفيدًا للصور ، ولكن ليس للنصوص.

** من يمكنه اكتشاف هذه الإشارات غير المرئية؟ **

حتى إذا وافقت صناعة الذكاء الاصطناعي على تنفيذ العلامات المائية غير المرئية ، فإن أسئلة أعمق تنشأ حتمًا حول من لديه القدرة على اكتشاف هذه الإشارات وفي النهاية تقديم مطالبات موثوقة بناءً عليها. من الذي يقرر ما إذا كان المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي ، أو بالامتداد ، إذا كان المحتوى مضللًا؟ إذا تمكن الجميع من اكتشاف العلامات المائية ، فقد يجعلهم ذلك عرضة لسوء الاستخدام من قبل الأشرار. من ناحية أخرى ، فإن التحكم في الوصول لاكتشاف العلامات المائية غير المرئية - خاصة إذا كانت تسيطر عليها شركات الذكاء الاصطناعي الكبيرة - يمكن أن يقلل الانفتاح ويعزز المراقبة التقنية. قد يؤدي تطبيق أساليب الإفصاح هذه دون تحديد كيفية إدارتها إلى عدم الثقة وعدم فعالية هذه الأساليب. وإذا لم يتم اعتماد هذه التقنيات على نطاق واسع ، فقد يلجأ الفاعلون السيئون إلى تقنيات مفتوحة المصدر تفتقر إلى العلامات المائية غير المرئية لإنشاء محتوى ضار ومضلل.

** هل العلامات المائية تحمي الخصوصية؟ **

كما أظهر العمل الرئيسي الذي قامت به مجموعة Witness لحقوق الإنسان والتكنولوجيا ، فإن أي نظام تتبع يسافر مع المحتوى بمرور الوقت يمكن أن يثير مخاوف بشأن الخصوصية لمنشئي المحتوى. يجب أن تضمن صناعة الذكاء الاصطناعي أن العلامات المائية وتقنيات الكشف الأخرى مصممة بطريقة لا تحتوي على معلومات تعريف يمكن أن تعرض المبدعين للخطر. على سبيل المثال ، قد يلتقط المدافعون عن حقوق الإنسان الانتهاكات من خلال الصور التي تحمل علامة مائية مع تحديد المعلومات ، مما يجعلها أهدافًا سهلة للحكومات الاستبدادية. حتى معرفة أن العلامة المائية يمكن أن تكشف عن هوية الناشط يمكن أن يكون لها تأثير مخيف على التعبير والخطاب. يجب على صانعي السياسات تقديم إرشادات أوضح حول كيفية تصميم عمليات الكشف لحماية خصوصية منشئي المحتوى مع تضمين ما يكفي من التفاصيل المفيدة والعملية.

** هل الإفصاحات المرئية تساعد الجماهير على فهم دور الذكاء الاصطناعي التوليدي؟ **

حتى إذا تمكنت العلامة المائية غير المرئية من حماية الخصوصية لفترة طويلة من الناحية الفنية ، فقد لا تتمكن من مساعدة الجمهور في تفسير المحتوى. في حين أن الإفصاحات المباشرة (مثل العلامات المائية المرئية) لها جاذبية حدسية تتمثل في توفير قدر أكبر من الشفافية ، فإن مثل هذه الإفصاحات لا يكون لها بالضرورة التأثير المطلوب ، وتميل إلى أن يُنظر إليها على أنها أبوية ومتحيزة وعقابية ، حتى لو كانت مصداقية المحتوى لم يذكر. بالإضافة إلى ذلك ، قد يساء الجمهور تفسير الإفصاحات المباشرة. في دراستي لعام 2021 ، أساء أحد المشاركين فهم تسمية "الوسائط المُتلاعب بها" على تويتر ، معتقدًا أنها مؤسسة "إعلامية" تتلاعب به ، وليس محتوى مقطع فيديو معين يتم تحريره لتضليله. بينما يستمر البحث في الظهور حول كيفية تأثير تصميمات UX المختلفة على تصورات الجمهور عن الكشف عن المحتوى ، فقد تركزت معظم الأبحاث داخل شركات التكنولوجيا الكبيرة ، ومعظمها في سياقات متنوعة مثل الانتخابات. يعد فحص آثار الإفصاح المباشر وتجربة المستخدم ، بدلاً من الاعتماد فقط على الجاذبية البديهية لتصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، أمرًا بالغ الأهمية لاتخاذ قرارات فعالة تزيد من الشفافية.

** هل يؤدي وضع علامة مائية مرئية على AIGC إلى تقليل ثقة الناس في المحتوى "الحقيقي"؟ **

ربما يكون السؤال المجتمعي الأكثر صعوبة للتقييم هو كيف سيؤثر الكشف المباشر المنسق على المواقف العامة تجاه المعلومات وربما يقلل الثقة في ما هو "أصيل". إذا قامت مؤسسات الذكاء الاصطناعي ومنصات الوسائط الاجتماعية بوضع علامة على المحتوى على أنه تم إنشاؤه أو تعديله - وهي طريقة مفهومة ولكنها محدودة لتجنب إصدار أحكام حول الادعاءات المضللة أو الضارة - كيف يؤثر ذلك على طريقة عرضنا للمحتوى عبر الإنترنت؟

يعد تحسين الثقافة الإعلامية من خلال الكشف قضية نبيلة ؛ ومع ذلك ، فإن العديد من العاملين في فرق السياسات داخل وخارج شركات التكنولوجيا يخشون من أن الدفع المبكر لتصنيف كل المحتوى الذي تم إنشاؤه سيؤدي إلى "انقسام غشاش" - رفض المجتمع لجميع المحتوى الذي قد يتم إنشاؤها بواسطة البشر. إن التشكك في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي واضح جدًا لدرجة أنه يقوض الثقة في المحتوى الأصيل غير المنتج للذكاء الاصطناعي ، والقلق مفهوم. أدى الاحتمال أيضًا إلى عدم اليقين بشأن ما إذا كانت جميع الاستخدامات التي تبدو منخفضة المخاطر لإنشاء محتوى AI - على سبيل المثال ، اعتماد وضع صورة iPhone على تقنية الذكاء الاصطناعي ، أو المساعد الصوتي المذكور في تعهد البيت الأبيض - سيتطلب الكشف عن مصطنع. المخابرات. المشاركة الذكية. يحتاج المجال إلى العمل معًا لقياس مواقف المجتمع طويلة الأجل تجاه المعلومات وتحديد متى يكون من المنطقي الكشف عن مشاركة الذكاء الاصطناعي. والأهم من ذلك ، يجب عليهم تقييم تأثير الرؤية للإفصاحات التي تصف ببساطة كيفية إنشاء المحتوى (بالقول إن بعض المحتوى تم إنشاؤه أو تحريره بواسطة الذكاء الاصطناعي) كبديل لما نهتم به حقًا: تحديد ما إذا كان مطالبة المحتوى صحيحة أم خاطئة.

لا ينبغي استخدام التحديات التي تطرحها العلامات المائية وتقنيات الكشف الأخرى كذريعة للتقاعس عن العمل أو للحد من الشفافية. بدلاً من ذلك ، يجب عليهم دفع الشركات وصانعي السياسات وغيرهم للعمل معًا لتطوير التعريفات وتحديد كيفية تقييم المفاضلات التي لا مفر منها في التنفيذ. عندها فقط يمكن لسياسة الذكاء الاصطناعي التوليدية أن تساعد الجمهور بشكل كافٍ في التمييز بين الحقيقة والتلفيق.