ليس من أجل لا شيء لا يستطيع الذكاء الاصطناعي التغلب الذكاء الاصطناعي. في الآونة الأخيرة ، كان عشرات الملايين من الناس يشاهدون صورا لوفيات الرضع ، ولم تتمكن أدوات الكشف الذكاء الاصطناعي من إعطاء إجابة ثابتة.
يتم غسل كاشف الصور الذكاء الاصطناعي مرة أخرى!
في الآونة الأخيرة ، تم نشر عدد كبير من صور الصراعات في الشرق الأوسط على شبكة الإنترنت ، مما يدل على العالم مدى هشاشة الحياة وعجزها في ظل هذه الظروف القاسية.
من بينها ، صورة "طفل محترق" قاسية للغاية لدرجة يصعب تصديقها.
لذلك ، وضع شخص ما الصور في كاشف الصور الذكاء الاصطناعي لاكتشاف ما إذا كانت هذه الصور الذكاء الاصطناعي إنشاؤها.
من المؤكد أنه تم تحديد الصورة على أنها "تم إنشاؤها الذكاء الاصطناعي" بواسطة كاشف الذكاء الاصطناعي البصري.
في 4chan ، هناك حتى "صورة أصلية" ، والموقع الأصلي للجسم هو في الواقع.
لذلك ذهب مستخدمو الإنترنت بغضب إلى أسفل تغريدة الناشر ، وهاجموه لاستخدامه الصور التي تم إنشاؤها الذكاء الاصطناعي لنشر ذعر يوم القيامة الكاذب.
التغريدة ، التي تعتقد أن الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي ، تمت قراءتها من قبل 21 مليون شخص في أقل من يومين.
ولكن سرعان ما وجد مستخدمو الإنترنت أنهم وضعوا الصور على نفس كاشف الذكاء الاصطناعي ، وكانت النتائج عشوائية تقريبا ، الذكاء الاصطناعي والبشر.
وجد شخص ما أنه طالما تم اقتصاص نفس الصورة ، أو تم تغيير لون الخلفية إلى الأبيض والأسود ، فإن الكاشف سيعتقد أن الصورة التقطها إنسان.
حتى في بعض الأحيان عندما "يرمي الكاشف عملة معدنية" ، ستقف العملة ...
فهل هذا التمثيل البياني ناتج عن الذكاء الاصطناعي؟
أخيرا ، قام مسؤول كاشف الذكاء الاصطناعي أيضا بالتغريد حول هذا الحادث ، معتقدا أنه ليس لديهم طريقة لتحديد ما إذا كانت الصورة ناتجة عن الذكاء الاصطناعي ، ويأملون أن يناقش الجميع بعقلانية.
**الذكاء الاصطناعي كاشف الصور ، ما مدى عدم موثوقيته؟ **
وقال هاني فريد، الأستاذ في جامعة كاليفورنيا في بيركلي وأحد الخبراء الرائدين في العالم في معالجة الصور الرقمية، إن الصورة لم تظهر أي مؤشر على أنها ولدت بواسطة الذكاء الاصطناعي.
قال فريد: "واحدة من أكبر المشاكل مع مولدات الصور الذكاء الاصطناعي هي الأشكال عالية التنظيم والخطوط المستقيمة". "إذا نظرت إلى الأرجل والبراغي وبدا كل شيء مثاليا ، يكاد يكون من المستحيل إنشاء الصورة بواسطة الذكاء الاصطناعي."
على سبيل المثال ، في هذه الصورة الشهيرة ل "SpongeBob SquarePants made 9/1" ، فإن خطوط البرجين التوأمين خارج النافذة ليست مستقيمة ، ولوحات القيادة على متن الطائرة ملتوية معا ، والتي تبدو مثل "A في A".
قال فريد: "يمكننا أن نرى في تلك الصورة أن بنية الجسم كانت دقيقة ، وكانت الظلال دقيقة ، ولم تكن هناك قطع أثرية - مما دفعني إلى الاعتقاد بأن الصورة يجب أن تكون حقيقية تماما".
كما تعرف فريد على الصورة من خلال أجهزة الكشف عن الصور الذكاء الاصطناعي الأخرى الخاصة به، وافترضت أربع أدوات أخرى للكشف عن الصور الذكاء الاصطناعي أن الصورة لم يتم إنشاؤها الذكاء الاصطناعي.
قال فريد: "الذكاء الاصطناعي أجهزة الكشف هي أداة، لكنها ليست سوى جزء من مجموعة الأدوات. يحتاج المستخدمون إلى إجراء سلسلة من الاختبارات على الصورة بأكملها ، ومن المستحيل الحصول على إجابة بلمسة زر واحدة ".
ولم تقدم أداة الكشف الذكاء الاصطناعي Optic تفاصيل محددة عن تقنية الكشف الخاصة بها.
ينص موقع Optic أيضا على أن "كاشفات الذكاء الاصطناعي قد تؤدي إلى نتائج غير دقيقة".
الذكاء الاصطناعي تقنية الكشف عن الصور
كتب البروفيسور فريد ورقة بحثية العام الماضي حول كيفية الحكم على اتساق الصور في أدوات الذكاء الاصطناعي السيرة الذاتية.
من خلال الحكم على الاتساق على الصورة ، يمكن أن يساعد في تحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي.
رابط الورق:
يبدأ الأستاذ بتحديد ثلاث طرق تحليل قائمة على الفيزياء ذات صلة ، يعتمد كل منها على نفس هندسة المنظور الأساسية المتأصلة في عملية تكوين الصورة.
نقطة التلاشي
تتلاقى خطوط الارتداد المتوازية عند نقطة التلاشي.
瓷砖之间的线图1(a) متوازية. عند التصوير ، تتقارب جميع هذه الخطوط عند نقطة التلاشي. إذا كانت الخطوط المتوازية في المشهد بعيدة عن العدسة في العمق ، فهناك نقطة تلاشي ، على الرغم من أنها قد تقع خارج الصورة.
إذا لم تنحسر الخطوط المتوازية في المشهد بعمق ، أي إذا كانت موازية تماما لمستشعر العدسة (على أي مسافة) ، تصوير الخطوط المتوازية كخطوط متوازية ، ولأغراض عملية يمكن اعتبار نقطة التلاشي عند اللانهاية. تنبع هذه الهندسة من أساسيات إسقاط المنظور.
تحت إسقاط المنظور ، يتم تصوير النقاط (X ، Y ، Z) في المشهد إلى نقاط (f X / Z ، f Y / Z) ، حيث f هو البعد البؤري للعدسة.
نظرا لأن موضع النقطة في الصورة يتناسب عكسيا مع المسافة Z ، يتم ضغط النقطة المسقطة كدالة للمسافة ، مما يؤدي إلى تقارب الخطوط في الصورة ؛
تتقارب الخطوط المتوازية على المستويات المتوازية إلى نفس نقطة التلاشي
يتم محاذاة المربع البعيد مع البلاط الموجود على الأرض في الشكل 1 (ب) بحيث تكون حواف الصندوق موازية للخط الفاصل بين البلاط. نظرا لأن الخطوط المتوازية على المستويات المتوازية تشترك في نقطة التلاشي ، فإن نقطة التلاشي هي نفسها على جانب الصندوق وعلى أرضية البلاط.
تقع نقطة التلاشي لجميع الخطوط على متن الطائرة على خط التلاشي.
العديد من مجموعات الخطوط المتوازية ، كل منها يتقارب إلى نقطة تلاشي مختلفة ، كما هو موضح في الشكل 1 (ج). إذا امتدت مجموعات من الخطوط المتوازية على نفس المستوى في المشهد ، فستكون نقاط التلاشي الخاصة بها على خط التلاشي. يتم تحديد اتجاه خط التلاشي من خلال دوران العدسة بالنسبة إلى المستوى الذي يتقاطع عبره الخط المتوازي
الظلال
من المثير للدهشة إلى حد ما ، أن نفس الهندسة خلف نقطة التلاشي تعمل أيضا على إلقاء الظلال.
تظهر الصورة أعلاه ثلاثة أشعة تربط النقاط الموجودة على الصندوق ونظيراتها على ظلال الصب. بتوسيع حدود الصورة ، وجد أن الأشعة الثلاثة تتقاطع عند نقطة تتوافق مع إسقاط مصدر الضوء الذي يضيء المشهد.
هذا القيد الهندسي المرتبط بالظلال والأشياء والضوء يحمل بغض النظر عن موقع واتجاه السطح الذي يلقي عليه الظل ، سواء كان مصدر الضوء قريبا (مصباح مكتبي) أو بعيدا (الشمس).
بالطبع ، يفترض التحليل أن المشهد مضاء بمصدر ضوء رئيسي واحد ، وهو ما يتضح من وجود ظل واحد فقط لكل كائن.
في المثال أعلاه، يكون مصدر الضوء الذي يضيء المشهد أمام العدسة، ومن ثم يكون إسقاط مصدر الضوء في النصف العلوي من مستوى الصورة.
ومع ذلك ، إذا كان الضوء خلف العدسة ، فسيكون إسقاط مصدر الضوء في النصف السفلي من مستوى الصورة. بسبب هذا الانعكاس ، يجب أيضا عكس ظل قيد الكائن.
لذلك ، يجب أن يأخذ تحليل ظل الصب للصورة في الاعتبار ثلاثة احتمالات:
(1) يقع الضوء أمام العدسة ، ويقع إسقاط مصدر الضوء في الجزء العلوي من مستوى الصورة ، ويتم تثبيت القيد على الظل المصبوب ويحيط بالكائن ؛
(2) يكون الضوء خلف العدسة ، ويتم عرض مصدر الضوء في النصف السفلي من مستوى الصورة ، مما يقيد التثبيت على الكائن ويغلف الظل المصبوب ؛
(3) يقع الضوء مباشرة فوق أو أسفل مركز العدسة ، ويكون إسقاط مصدر الضوء عند اللانهاية ، وستتقاطع القيود عند اللانهاية. إذا أدت أي من هذه الحالات إلى تقاطع مشترك لجميع القيود ، فمن المعقول ماديا إلقاء الظلال.
انعكاس
يوضح المشهد الموضح في الشكل 2 الآتي ثلاثة مربعات منعكسة في مرآة مستوية.
يوضح النصف السفلي من هذا الرسم البياني العلاقة الهندسية بين المربع الحقيقي والمربع الافتراضي.
يمثل الخط البرتقالي المرآة، التي تقع عند نقطة المنتصف بين مجموعتي الصناديق. يربط الخط الأصفر النقاط المقابلة في المربعات الحقيقية والافتراضية. هذان الخطان متوازيان لبعضهما البعض وعموديان على المرآة.
الآن فكر في كيفية ظهور هذه الخطوط المتوازية عندما يتم فرضها على الساحة. عند النظر إليها من مستوى المرآة ، لم تعد الخطوط المتوازية متوازية. بدلا من ذلك ، بسبب إسقاط المنظور ، تتقارب هذه الخطوط المتوازية إلى نقطة ، تماما كما تتقارب الخطوط المتوازية في العالم إلى نقطة التلاشي.
نظرا لأن الخطوط التي تربط النقاط المقابلة في المشهد وانعكاساتها متوازية دائما ، يجب أن يكون للخطوط تقاطع مشترك في الصورة لتكون معقولة ماديا.
تحليل المثيل
يوضح الشكل 3 أعلاه ثلاثة أمثلة تمثيلية الذكاء الاصطناعي الصور المركبة ويحلل اتساق المنظور الهندسي للأرضيات وأسطح العمل.
تلتقط كل صورة (ضمن بضع بكسلات) بدقة هندسة المنظور لأرضية البلاطة كدليل على نقطة تلاشي متسقة (معروضة باللون الأزرق). ومع ذلك ، فإن نقطة التلاشي لكونترتوب مواز (معروضة باللون السماوي) غير متسقة هندسيا مع نقطة التلاشي لسطح العمل.
قم بمحاذاة البلاط وفقا لذلك. حتى إذا لم يكن سطح العمل موازيا للبلاط ، فيجب أن تكون نقطة التلاشي السماوية على خط التلاشي (باللون الأحمر) المحدد بنقطة التلاشي لأرضية البلاط. لاحظ أنه بالنسبة للصورة الموجودة في الزاوية اليمنى العليا من الشكل 3 ، تكون الخطوط الأفقية على أرضية البلاط متوازية تقريبا ، وبالتالي فإن نقاط التلاشي المقابلة تكون عند ما لا نهاية وبالتالي لا تتقاطع.
في حين أن نقاط التلاشي في هذه الصور متسقة محليا ، إلا أنها ليست متسقة عالميا. في كل صورة من صور المطبخ المركبة ال 25 ، تم العثور على نفس النمط.
الصورة أعلاه هي صورة مربعة تم إنشاؤها باستخدام موجه ، وهناك تناقض واضح في الظلال.
يوضح الشكل 8 أعلاه نتيجة تطبيق التحليل الهندسي على صورة تم إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على انعكاس دقيق إلى حد ما.
على الرغم من أن هذه الانعكاسات لها ما يبررها بصريا ، إلا أنها غير متسقة هندسيا.
على عكس الظلال المدلى بها والهندسة في الأقسام السابقة ، DALL · من الصعب تجميع E-2 انعكاسات معقولة ، على الأرجح لأن مثل هذه الانعكاسات أقل شيوعا في مجموعة بيانات صور التدريب الخاصة بها.
بناء على هذه الفهم لقيود الصور التي تم إنشاؤها الذكاء الاصطناعي ، من المفيد جدا تحديد ما إذا كانت الصورة يتم توليفها بواسطة الذكاء الاصطناعي من خلال اكتشاف تناسق الصورة.
** التعرف على الصور صعب ، الذكاء الاصطناعي يدق الذكاء الاصطناعي **
مولدات الصور الذكاء الاصطناعي تتطور باستمرار.
في النصف الأول من العام ، انفجرت Midjourney وتمكنت من توليد صور واقعية بما فيه الكفاية ، لكنها خدعت الكثير من الناس.
يرتدي البابا البالغ من العمر 86 عاما قبعة بطيخ بيضاء وسترة بيضاء واسعة وقلادة معدنية مكشوفة ، بالإضافة إلى تعبير جاد.
في ذلك الوقت ، بمجرد إصدار الصورة ، خدعت الجميع على وسائل التواصل الاجتماعي ، وتم إرسالها بشكل محموم من قبل العديد من مستخدمي الإنترنت ، حتى أن البعض وصف البابا بأنه عصري للغاية.
عندما صدق الجميع ذلك ، أشار أحدهم فجأة إلى أنه تم إنشاؤه بواسطة الذكاء الاصطناعي ، وأصيب الكثير من الناس بالذهول على الفور.
هذه مجرد واحدة من الكستناء ، وقد وصلت العديد من الصور الكاذبة مثل بارا ، الرئيس التنفيذي لصديقة ماسك الجديدة جنرال موتورز ، إلى مستوى الواقع المزيف.
دفع هذا الحادث ماسك والمؤسس المشارك لشركة Apple ستيفن وزنياك وقادة التكنولوجيا الآخرين إلى الدعوة إلى تعليق البحث والتطوير الذكاء الاصطناعي.
في حين أن الجيل الذكاء الاصطناعي ممتع ومريح ، إلا أنه يشكل مخاطر على الصناعة ككل.
إذا لم تكن صغيرة ، استخدامها من قبل الأشخاص ذوي الدوافع الخفية لنشر معلومات كاذبة ، أو انتهاك حقوق الملكية الفكرية ، أو استخدامها لإنشاء "صور فاكهة" وما إلى ذلك.
في الأشهر القليلة المقبلة ، ستصدر Midjourney أحدث إصدار من V6 ، والذي تم إتقانه من حيث توليد الصور.
مولدات الصور الذكاء الاصطناعي الأخرى تتكرر أيضا بسرعة. منذ بعض الوقت ، أصدرت OpenAI للتو DALL · E 3 ، في نفس الوقت مايكروسوفت بنج جيل الصور المستخدمة أيضا DALL· E 3。
بالطبع ، يحاول الباحثون أيضا بناء أدوات يمكنها تمييز الصور ، والمفتاح هو كيفية مواكبة وتيرة مولدات الصور الذكاء الاصطناعي؟
**الذكاء الاصطناعي مسابقة أدوات التفتيش **
الآن ، قدمت أكثر من اثنتي عشرة شركة أدوات لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي ، وتشمل أسمائها Sensity الذكاء الاصطناعي (اكتشاف العمق) و Fictitious.AI (اكتشاف الانتحال) و Originality.AI والمزيد.
أطلقت شركة Optic للثقة والسلامة في مجال الذكاء الاصطناعي موقعا إلكترونيا "الذكاء الاصطناعي أم لا".
على موقع الويب هذا ، يمكنك تحميل صورة أو لصق عنوان URL للصورة ، وسيحدد موقع الويب تلقائيا ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي. لا يوجد حد لعدد الصور التي يمكنك تحميلها.
بدلا من ذلك ، يمكنك نشر أو إعادة تغريد صورة على حساب Twitter الخاص ب Optic @optic_xyz ، أو إضافة #aiornot ، وستحصل على رد بنسبة ثقة الصورة.
وقال أندريه دورونيتشيف، الرئيس التنفيذي للشركة، إن أدوات الذكاء الاصطناعي البصرية يمكنها فحص كل صورة بحثا عن القطع الأثرية غير المرئية للعين البشرية، مثل التغيرات في السطوع واللون في الصورة.
والمثير للدهشة أن الأداة لديها معدل دقة 95٪.
ومع ذلك ، مع ترقية وتكرار أدوات توليد الصور الذكاء الاصطناعي مثل Midjourney ، انخفض معدل دقة "الذكاء الاصطناعي أو لا" إلى 88.9٪.
على سبيل المثال ، في صورة البابا ، يعتقد الذكاء الاصطناعي أن هناك احتمالا بنسبة 87٪ أن يفعل البشر ذلك.
تم خداع صورة البابا في سترة بيضاء قبل التحديث البصري
في الواقع ، قال بعض مستخدمي الإنترنت إنه إذا نظرت عن كثب إلى هذه الصورة ، فستجد علامات واضحة تم إنشاؤها بواسطة الذكاء الاصطناعي ، بما في ذلك العديد من مجالات التفاصيل الضبابية الواضحة:
تحاول اليد التي تبدو غير مكتملة الإمساك بشيء لا يشبه تماما فنجان قهوة مع لطخة بجانبه
الصليب الذي يرتديه البابا ليس على شكل زاوية قائمة ، ولكنه يحتوي أيضا على نقش ليسوع جالس يبدو أنه منحوت من الطين
النظارات لا تتناسب مع ظلال الوجه
تشير جميع هذه النقاط إلى أن هذا يتم إنشاؤه بواسطة الذكاء الاصطناعي. إنه يفهم فقط سطح الواقع ، ولكن ليس القواعد الأساسية التي تحكم كيفية تفاعل الأشياء المادية.
بالإضافة إلى أدوات Optic ، قامت Hive ، وهي شركة الذكاء الاصطناعي تقوم بوضع علامات على المحتوى ، مؤخرا بتحديث كاشف المحتوى المجاني الخاص بها الذكاء الاصطناعي.
تم تدريب أداة الذكاء الاصطناعي على ملايين الصور من DALL-E و Stable Diffusion و Midjourney.
تتوقع Hive أن تكتشف بدقة حوالي 95 بالمائة من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، وخاصة الصور المشتركة التي تنتشر عبر الإنترنت ، وغالبا ما تكون أفضل من التعرف على الصور الأخرى.
قال الرئيس التنفيذي كيفن قوه إنه عندما يشارك الناس الذكاء الاصطناعي الصور ، فإنهم يختارون الصور المزيفة الأكثر واقعية ، حتى يتمكن الناس من التمييز بين ما هو حقيقي.
الصورة الموجودة على اليسار هي صورة تم إنشاؤها بواسطة الذكاء الاصطناعي يمكن تمييزها من إصبعين وخمسة فردية ، بينما يبدو الشيء الحقيقي في صورة iStock العادية على اليمين.
مثل البصريات ، فشل Hive في اكتشاف الصور من Bing Image Creator.
ومع ذلك ، فإن أدوات الكشف هذه ليست راكدة ، وسيتم تحديثها وترقيتها مع تكرار نموذج الصورة الذكاء الاصطناعي.
في الواقع ، لا يمكن التعرف على الصور الذكاء الاصطناعي الاعتماد فقط على أدوات الكشف في الصناعة لإكمالها ، ولكن أيضا إعداد حواجز حماية عند تدريب النماذج.
تحتوي العديد من مولدات صور الذكاء الاصطناعي أيضا على "قائمة سوداء" تحد مما إذا كان يمكن إنشاء بعض المحتوى.
على سبيل المثال، يقوم Bing Image Creator بوضع علامات على المطالبات وحظرها من المستخدمين الذين يطلبون منه إنشاء صور لشخصيات عامة معروفة.
لدى Midjourney "مشرفون بشريون" وتطرح طريقة لاستخدام الخوارزميات للإشراف على طلبات المستخدمين.
ودال· وفقا للتقرير الفني E 3 ، عندما تطلب من ChatGPT إنشاء بعض "خرائط الفاكهة" ، أو الصور التي تتضمن الأبيض والأسود ، تتم إعادة كتابة الإدخال مباشرة.
** أضف علامة مائية إلى الذكاء الاصطناعي ، الشركات المصنعة الكبرى تفعل **
بالإضافة إلى ذلك ، تعد العلامة المائية الرقمية أيضا إحدى الوسائل المهمة لتعزيز أمان الذكاء الاصطناعي التوليدي ، وقد تم استخدام عمالقة التكنولوجيا مثل Microsoft و Google في المنتجات.
قدمت Microsoft DALL · في مؤتمر Surface في سبتمبر. E 3 المباركة مع قدرة Bing على توليد الصور.
في الوقت نفسه ، لضمان عدم إساءة استخدام الصور ، يستخدم فريق Microsoft طرق التشفير لإنشاء علامات مائية غير مرئية لكل صورة ، بما في ذلك وقت وتاريخ الإنشاء.
يمكن لأي شخص النقر فوق كل صورة وتحديد ما إذا كان قد تم إنشاؤها بواسطة الذكاء الاصطناعي بسهولة.
Meta أيضا توقيع مستقر مفتوح المصدر ، والذي يدمج العلامات المائية الرقمية مباشرة في الصور التي يتم إنشاؤها تلقائيا بواسطة الذكاء الاصطناعي.
عنوان الورقة:
تجدر الإشارة إلى أن العلامة المائية الرقمية الناتجة عن التوقيع الثابت لا تتأثر بالعمليات المدمرة مثل الاقتصاص والضغط وتغيير اللون وما إلى ذلك ، ويمكن إرجاعها إلى المصدر الأصلي للصورة.
يمكن تطبيقه على نماذج مثل الانتشار و GAN ، مثل الانتشار المستقر.
وأصدرت Google ، على Google Cloud Next ، أيضا SynthID الذي يضع علامات مائية على الصور التي تم إنشاؤها الذكاء الاصطناعي ويكتشفها ويحددها.
يستخدم SynthID نموذجين للتعلم العميق ، أحدهما للعلامة المائية والآخر للتعرف. يمكن تدريبهم معا على مجموعة من الصور المختلفة.
تم تحسين النموذج المدمج لمجموعة من الأهداف ، بما في ذلك تحديد المحتوى الذي يحمل علامة مائية بشكل صحيح وتحسين إخفاء العلامة المائية عن طريق محاذاة العلامة المائية بصريا مع المحتوى الأصلي.
يتم تضمين العلامة المائية الرقمية التي تم إنشاؤها بواسطة SynthID مباشرة في وحدات بكسل الصورة وهي غير محسوسة للعين البشرية. لكن SynthID يمكنه اكتشافها والتعرف عليها.
يمكن أن يساعد SynthID في تقييم احتمالية إنشاء صورة بواسطة Imagen
وقال أميت روي شودري، أستاذ الهندسة الكهربائية وهندسة الحاسبات في جامعة كاليفورنيا، ريفرسايد، إنه من خلال النظر عن كثب إلى خلفية الصورة، يمكننا اكتشاف الصور المزيفة بأعيننا بشكل أفضل.
ومع ذلك ، في الوقت الذي تتسارع فيه نماذج الذكاء الاصطناعي التكرار ، من الصعب جدا الحصول على "عين ذهبية".
موارد:
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
عشرات الملايين من الناس يشاهدون صورة "الطفل المحترق"! البروفيسور بيركلي يفضح الشائعات القائلة بأن الذكاء الاصطناعي أجهزة الكشف عن الصور عديمة الفائدة
مصدر المقال: شين جي يوان
ليس من أجل لا شيء لا يستطيع الذكاء الاصطناعي التغلب الذكاء الاصطناعي. في الآونة الأخيرة ، كان عشرات الملايين من الناس يشاهدون صورا لوفيات الرضع ، ولم تتمكن أدوات الكشف الذكاء الاصطناعي من إعطاء إجابة ثابتة.
يتم غسل كاشف الصور الذكاء الاصطناعي مرة أخرى!
في الآونة الأخيرة ، تم نشر عدد كبير من صور الصراعات في الشرق الأوسط على شبكة الإنترنت ، مما يدل على العالم مدى هشاشة الحياة وعجزها في ظل هذه الظروف القاسية.
من بينها ، صورة "طفل محترق" قاسية للغاية لدرجة يصعب تصديقها.
من المؤكد أنه تم تحديد الصورة على أنها "تم إنشاؤها الذكاء الاصطناعي" بواسطة كاشف الذكاء الاصطناعي البصري.
أخيرا ، قام مسؤول كاشف الذكاء الاصطناعي أيضا بالتغريد حول هذا الحادث ، معتقدا أنه ليس لديهم طريقة لتحديد ما إذا كانت الصورة ناتجة عن الذكاء الاصطناعي ، ويأملون أن يناقش الجميع بعقلانية.
**الذكاء الاصطناعي كاشف الصور ، ما مدى عدم موثوقيته؟ **
وقال هاني فريد، الأستاذ في جامعة كاليفورنيا في بيركلي وأحد الخبراء الرائدين في العالم في معالجة الصور الرقمية، إن الصورة لم تظهر أي مؤشر على أنها ولدت بواسطة الذكاء الاصطناعي.
قال فريد: "واحدة من أكبر المشاكل مع مولدات الصور الذكاء الاصطناعي هي الأشكال عالية التنظيم والخطوط المستقيمة". "إذا نظرت إلى الأرجل والبراغي وبدا كل شيء مثاليا ، يكاد يكون من المستحيل إنشاء الصورة بواسطة الذكاء الاصطناعي."
على سبيل المثال ، في هذه الصورة الشهيرة ل "SpongeBob SquarePants made 9/1" ، فإن خطوط البرجين التوأمين خارج النافذة ليست مستقيمة ، ولوحات القيادة على متن الطائرة ملتوية معا ، والتي تبدو مثل "A في A".
كما تعرف فريد على الصورة من خلال أجهزة الكشف عن الصور الذكاء الاصطناعي الأخرى الخاصة به، وافترضت أربع أدوات أخرى للكشف عن الصور الذكاء الاصطناعي أن الصورة لم يتم إنشاؤها الذكاء الاصطناعي.
قال فريد: "الذكاء الاصطناعي أجهزة الكشف هي أداة، لكنها ليست سوى جزء من مجموعة الأدوات. يحتاج المستخدمون إلى إجراء سلسلة من الاختبارات على الصورة بأكملها ، ومن المستحيل الحصول على إجابة بلمسة زر واحدة ".
ولم تقدم أداة الكشف الذكاء الاصطناعي Optic تفاصيل محددة عن تقنية الكشف الخاصة بها.
ينص موقع Optic أيضا على أن "كاشفات الذكاء الاصطناعي قد تؤدي إلى نتائج غير دقيقة".
الذكاء الاصطناعي تقنية الكشف عن الصور
كتب البروفيسور فريد ورقة بحثية العام الماضي حول كيفية الحكم على اتساق الصور في أدوات الذكاء الاصطناعي السيرة الذاتية.
من خلال الحكم على الاتساق على الصورة ، يمكن أن يساعد في تحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي.
يبدأ الأستاذ بتحديد ثلاث طرق تحليل قائمة على الفيزياء ذات صلة ، يعتمد كل منها على نفس هندسة المنظور الأساسية المتأصلة في عملية تكوين الصورة.
نقطة التلاشي
إذا لم تنحسر الخطوط المتوازية في المشهد بعمق ، أي إذا كانت موازية تماما لمستشعر العدسة (على أي مسافة) ، تصوير الخطوط المتوازية كخطوط متوازية ، ولأغراض عملية يمكن اعتبار نقطة التلاشي عند اللانهاية. تنبع هذه الهندسة من أساسيات إسقاط المنظور.
تحت إسقاط المنظور ، يتم تصوير النقاط (X ، Y ، Z) في المشهد إلى نقاط (f X / Z ، f Y / Z) ، حيث f هو البعد البؤري للعدسة.
نظرا لأن موضع النقطة في الصورة يتناسب عكسيا مع المسافة Z ، يتم ضغط النقطة المسقطة كدالة للمسافة ، مما يؤدي إلى تقارب الخطوط في الصورة ؛
يتم محاذاة المربع البعيد مع البلاط الموجود على الأرض في الشكل 1 (ب) بحيث تكون حواف الصندوق موازية للخط الفاصل بين البلاط. نظرا لأن الخطوط المتوازية على المستويات المتوازية تشترك في نقطة التلاشي ، فإن نقطة التلاشي هي نفسها على جانب الصندوق وعلى أرضية البلاط.
العديد من مجموعات الخطوط المتوازية ، كل منها يتقارب إلى نقطة تلاشي مختلفة ، كما هو موضح في الشكل 1 (ج). إذا امتدت مجموعات من الخطوط المتوازية على نفس المستوى في المشهد ، فستكون نقاط التلاشي الخاصة بها على خط التلاشي. يتم تحديد اتجاه خط التلاشي من خلال دوران العدسة بالنسبة إلى المستوى الذي يتقاطع عبره الخط المتوازي
الظلال
من المثير للدهشة إلى حد ما ، أن نفس الهندسة خلف نقطة التلاشي تعمل أيضا على إلقاء الظلال.
هذا القيد الهندسي المرتبط بالظلال والأشياء والضوء يحمل بغض النظر عن موقع واتجاه السطح الذي يلقي عليه الظل ، سواء كان مصدر الضوء قريبا (مصباح مكتبي) أو بعيدا (الشمس).
بالطبع ، يفترض التحليل أن المشهد مضاء بمصدر ضوء رئيسي واحد ، وهو ما يتضح من وجود ظل واحد فقط لكل كائن.
في المثال أعلاه، يكون مصدر الضوء الذي يضيء المشهد أمام العدسة، ومن ثم يكون إسقاط مصدر الضوء في النصف العلوي من مستوى الصورة.
ومع ذلك ، إذا كان الضوء خلف العدسة ، فسيكون إسقاط مصدر الضوء في النصف السفلي من مستوى الصورة. بسبب هذا الانعكاس ، يجب أيضا عكس ظل قيد الكائن.
لذلك ، يجب أن يأخذ تحليل ظل الصب للصورة في الاعتبار ثلاثة احتمالات:
(1) يقع الضوء أمام العدسة ، ويقع إسقاط مصدر الضوء في الجزء العلوي من مستوى الصورة ، ويتم تثبيت القيد على الظل المصبوب ويحيط بالكائن ؛
(2) يكون الضوء خلف العدسة ، ويتم عرض مصدر الضوء في النصف السفلي من مستوى الصورة ، مما يقيد التثبيت على الكائن ويغلف الظل المصبوب ؛
(3) يقع الضوء مباشرة فوق أو أسفل مركز العدسة ، ويكون إسقاط مصدر الضوء عند اللانهاية ، وستتقاطع القيود عند اللانهاية. إذا أدت أي من هذه الحالات إلى تقاطع مشترك لجميع القيود ، فمن المعقول ماديا إلقاء الظلال.
انعكاس
يوضح المشهد الموضح في الشكل 2 الآتي ثلاثة مربعات منعكسة في مرآة مستوية.
يمثل الخط البرتقالي المرآة، التي تقع عند نقطة المنتصف بين مجموعتي الصناديق. يربط الخط الأصفر النقاط المقابلة في المربعات الحقيقية والافتراضية. هذان الخطان متوازيان لبعضهما البعض وعموديان على المرآة.
الآن فكر في كيفية ظهور هذه الخطوط المتوازية عندما يتم فرضها على الساحة. عند النظر إليها من مستوى المرآة ، لم تعد الخطوط المتوازية متوازية. بدلا من ذلك ، بسبب إسقاط المنظور ، تتقارب هذه الخطوط المتوازية إلى نقطة ، تماما كما تتقارب الخطوط المتوازية في العالم إلى نقطة التلاشي.
نظرا لأن الخطوط التي تربط النقاط المقابلة في المشهد وانعكاساتها متوازية دائما ، يجب أن يكون للخطوط تقاطع مشترك في الصورة لتكون معقولة ماديا.
تحليل المثيل
تلتقط كل صورة (ضمن بضع بكسلات) بدقة هندسة المنظور لأرضية البلاطة كدليل على نقطة تلاشي متسقة (معروضة باللون الأزرق). ومع ذلك ، فإن نقطة التلاشي لكونترتوب مواز (معروضة باللون السماوي) غير متسقة هندسيا مع نقطة التلاشي لسطح العمل.
قم بمحاذاة البلاط وفقا لذلك. حتى إذا لم يكن سطح العمل موازيا للبلاط ، فيجب أن تكون نقطة التلاشي السماوية على خط التلاشي (باللون الأحمر) المحدد بنقطة التلاشي لأرضية البلاط. لاحظ أنه بالنسبة للصورة الموجودة في الزاوية اليمنى العليا من الشكل 3 ، تكون الخطوط الأفقية على أرضية البلاط متوازية تقريبا ، وبالتالي فإن نقاط التلاشي المقابلة تكون عند ما لا نهاية وبالتالي لا تتقاطع.
في حين أن نقاط التلاشي في هذه الصور متسقة محليا ، إلا أنها ليست متسقة عالميا. في كل صورة من صور المطبخ المركبة ال 25 ، تم العثور على نفس النمط.
على الرغم من أن هذه الانعكاسات لها ما يبررها بصريا ، إلا أنها غير متسقة هندسيا.
على عكس الظلال المدلى بها والهندسة في الأقسام السابقة ، DALL · من الصعب تجميع E-2 انعكاسات معقولة ، على الأرجح لأن مثل هذه الانعكاسات أقل شيوعا في مجموعة بيانات صور التدريب الخاصة بها.
بناء على هذه الفهم لقيود الصور التي تم إنشاؤها الذكاء الاصطناعي ، من المفيد جدا تحديد ما إذا كانت الصورة يتم توليفها بواسطة الذكاء الاصطناعي من خلال اكتشاف تناسق الصورة.
** التعرف على الصور صعب ، الذكاء الاصطناعي يدق الذكاء الاصطناعي **
مولدات الصور الذكاء الاصطناعي تتطور باستمرار.
في النصف الأول من العام ، انفجرت Midjourney وتمكنت من توليد صور واقعية بما فيه الكفاية ، لكنها خدعت الكثير من الناس.
يرتدي البابا البالغ من العمر 86 عاما قبعة بطيخ بيضاء وسترة بيضاء واسعة وقلادة معدنية مكشوفة ، بالإضافة إلى تعبير جاد.
في ذلك الوقت ، بمجرد إصدار الصورة ، خدعت الجميع على وسائل التواصل الاجتماعي ، وتم إرسالها بشكل محموم من قبل العديد من مستخدمي الإنترنت ، حتى أن البعض وصف البابا بأنه عصري للغاية.
دفع هذا الحادث ماسك والمؤسس المشارك لشركة Apple ستيفن وزنياك وقادة التكنولوجيا الآخرين إلى الدعوة إلى تعليق البحث والتطوير الذكاء الاصطناعي.
في حين أن الجيل الذكاء الاصطناعي ممتع ومريح ، إلا أنه يشكل مخاطر على الصناعة ككل.
إذا لم تكن صغيرة ، استخدامها من قبل الأشخاص ذوي الدوافع الخفية لنشر معلومات كاذبة ، أو انتهاك حقوق الملكية الفكرية ، أو استخدامها لإنشاء "صور فاكهة" وما إلى ذلك.
في الأشهر القليلة المقبلة ، ستصدر Midjourney أحدث إصدار من V6 ، والذي تم إتقانه من حيث توليد الصور.
مولدات الصور الذكاء الاصطناعي الأخرى تتكرر أيضا بسرعة. منذ بعض الوقت ، أصدرت OpenAI للتو DALL · E 3 ، في نفس الوقت مايكروسوفت بنج جيل الصور المستخدمة أيضا DALL· E 3。
**الذكاء الاصطناعي مسابقة أدوات التفتيش **
الآن ، قدمت أكثر من اثنتي عشرة شركة أدوات لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي ، وتشمل أسمائها Sensity الذكاء الاصطناعي (اكتشاف العمق) و Fictitious.AI (اكتشاف الانتحال) و Originality.AI والمزيد.
أطلقت شركة Optic للثقة والسلامة في مجال الذكاء الاصطناعي موقعا إلكترونيا "الذكاء الاصطناعي أم لا".
على موقع الويب هذا ، يمكنك تحميل صورة أو لصق عنوان URL للصورة ، وسيحدد موقع الويب تلقائيا ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي. لا يوجد حد لعدد الصور التي يمكنك تحميلها.
وقال أندريه دورونيتشيف، الرئيس التنفيذي للشركة، إن أدوات الذكاء الاصطناعي البصرية يمكنها فحص كل صورة بحثا عن القطع الأثرية غير المرئية للعين البشرية، مثل التغيرات في السطوع واللون في الصورة.
والمثير للدهشة أن الأداة لديها معدل دقة 95٪.
ومع ذلك ، مع ترقية وتكرار أدوات توليد الصور الذكاء الاصطناعي مثل Midjourney ، انخفض معدل دقة "الذكاء الاصطناعي أو لا" إلى 88.9٪.
على سبيل المثال ، في صورة البابا ، يعتقد الذكاء الاصطناعي أن هناك احتمالا بنسبة 87٪ أن يفعل البشر ذلك.
في الواقع ، قال بعض مستخدمي الإنترنت إنه إذا نظرت عن كثب إلى هذه الصورة ، فستجد علامات واضحة تم إنشاؤها بواسطة الذكاء الاصطناعي ، بما في ذلك العديد من مجالات التفاصيل الضبابية الواضحة:
تحاول اليد التي تبدو غير مكتملة الإمساك بشيء لا يشبه تماما فنجان قهوة مع لطخة بجانبه
الصليب الذي يرتديه البابا ليس على شكل زاوية قائمة ، ولكنه يحتوي أيضا على نقش ليسوع جالس يبدو أنه منحوت من الطين
النظارات لا تتناسب مع ظلال الوجه
تشير جميع هذه النقاط إلى أن هذا يتم إنشاؤه بواسطة الذكاء الاصطناعي. إنه يفهم فقط سطح الواقع ، ولكن ليس القواعد الأساسية التي تحكم كيفية تفاعل الأشياء المادية.
تم تدريب أداة الذكاء الاصطناعي على ملايين الصور من DALL-E و Stable Diffusion و Midjourney.
قال الرئيس التنفيذي كيفن قوه إنه عندما يشارك الناس الذكاء الاصطناعي الصور ، فإنهم يختارون الصور المزيفة الأكثر واقعية ، حتى يتمكن الناس من التمييز بين ما هو حقيقي.
مثل البصريات ، فشل Hive في اكتشاف الصور من Bing Image Creator.
ومع ذلك ، فإن أدوات الكشف هذه ليست راكدة ، وسيتم تحديثها وترقيتها مع تكرار نموذج الصورة الذكاء الاصطناعي.
في الواقع ، لا يمكن التعرف على الصور الذكاء الاصطناعي الاعتماد فقط على أدوات الكشف في الصناعة لإكمالها ، ولكن أيضا إعداد حواجز حماية عند تدريب النماذج.
تحتوي العديد من مولدات صور الذكاء الاصطناعي أيضا على "قائمة سوداء" تحد مما إذا كان يمكن إنشاء بعض المحتوى.
على سبيل المثال، يقوم Bing Image Creator بوضع علامات على المطالبات وحظرها من المستخدمين الذين يطلبون منه إنشاء صور لشخصيات عامة معروفة.
لدى Midjourney "مشرفون بشريون" وتطرح طريقة لاستخدام الخوارزميات للإشراف على طلبات المستخدمين.
ودال· وفقا للتقرير الفني E 3 ، عندما تطلب من ChatGPT إنشاء بعض "خرائط الفاكهة" ، أو الصور التي تتضمن الأبيض والأسود ، تتم إعادة كتابة الإدخال مباشرة.
** أضف علامة مائية إلى الذكاء الاصطناعي ، الشركات المصنعة الكبرى تفعل **
بالإضافة إلى ذلك ، تعد العلامة المائية الرقمية أيضا إحدى الوسائل المهمة لتعزيز أمان الذكاء الاصطناعي التوليدي ، وقد تم استخدام عمالقة التكنولوجيا مثل Microsoft و Google في المنتجات.
قدمت Microsoft DALL · في مؤتمر Surface في سبتمبر. E 3 المباركة مع قدرة Bing على توليد الصور.
في الوقت نفسه ، لضمان عدم إساءة استخدام الصور ، يستخدم فريق Microsoft طرق التشفير لإنشاء علامات مائية غير مرئية لكل صورة ، بما في ذلك وقت وتاريخ الإنشاء.
يمكن لأي شخص النقر فوق كل صورة وتحديد ما إذا كان قد تم إنشاؤها بواسطة الذكاء الاصطناعي بسهولة.
تجدر الإشارة إلى أن العلامة المائية الرقمية الناتجة عن التوقيع الثابت لا تتأثر بالعمليات المدمرة مثل الاقتصاص والضغط وتغيير اللون وما إلى ذلك ، ويمكن إرجاعها إلى المصدر الأصلي للصورة.
يمكن تطبيقه على نماذج مثل الانتشار و GAN ، مثل الانتشار المستقر.
يستخدم SynthID نموذجين للتعلم العميق ، أحدهما للعلامة المائية والآخر للتعرف. يمكن تدريبهم معا على مجموعة من الصور المختلفة.
تم تحسين النموذج المدمج لمجموعة من الأهداف ، بما في ذلك تحديد المحتوى الذي يحمل علامة مائية بشكل صحيح وتحسين إخفاء العلامة المائية عن طريق محاذاة العلامة المائية بصريا مع المحتوى الأصلي.
وقال أميت روي شودري، أستاذ الهندسة الكهربائية وهندسة الحاسبات في جامعة كاليفورنيا، ريفرسايد، إنه من خلال النظر عن كثب إلى خلفية الصورة، يمكننا اكتشاف الصور المزيفة بأعيننا بشكل أفضل.
موارد: