مكتبة التحقيق العلمية05 / 07

الدليل وراء السؤال

دراسات أصلية تساعدنا على فهم قدرة البشر على التمييز، وحدود أدوات الكشف، وقيمة تتبّع المصدر

نتائج كل دراسة مرتبطة بعينتها وأدواتها وزمنها، لا يجوز تعميم نتائج كشف النصوص على الصور أو تطبيق أداء نموذج قديم على جميع النماذج الحديثة

6 مصادر
2022دراسة تجريبية أصلية محكّمة
قدرة البشر على تمييز الصور المولدة

حين يصعب التمييز بين الوجوه

صوفي جي نايتنغيل وهاني فريد

اختبرت دراسة تجريبية قدرة المشاركين على التمييز بين صور وجوه حقيقية ووجوه مولدة بنموذج StyleGAN2، وأثر التدريب والتغذية الراجعة، ثم قيّمت الانطباع عن موثوقية الوجوه في تجربة منفصلة، باستخدام مجموعة تضم 400 وجه مولد و400 وجه حقيقي مطابق لها في خصائص المظهر

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

AI-synthesized faces are indistinguishable from real faces and more trustworthy

جهة النشر

وقائع الأكاديمية الوطنية للعلوم في الولايات المتحدة الأمريكية (PNAS)، المجلد 119، العدد 8

النتائج الرئيسية

بلغ متوسط دقة التمييز لدى 315 مشاركًا دون تدريب 48.2%، قريبًا من التخمين العشوائي البالغ 50%، وبلغ 59.0% لدى مجموعة أخرى من 219 مشاركًا تلقت تدريبًا وتغذية راجعة بعد كل إجابة، دون تحسن خلال التجربة الثانية، وفي تجربة ثالثة مع 223 مشاركًا نالت الوجوه المولدة متوسط موثوقية متصورة قدره 4.82 مقابل 4.48 للوجوه الحقيقية على مقياس من 1 إلى 7

حدود القراءة

تخص النتائج وجوهًا ثابتة مولدة بنموذج StyleGAN2، وليست جميع الصور المولدة أو النماذج الأحدث، واستُبعدت الصور ذات عيوب التوليد الواضحة واختيرت خلفيات شبه موحدة، ما صعّب مهمة التمييز، كما أن المشاركين جُنّدوا من منصة Mechanical Turk ولا تمثل العينة بالضرورة عموم الجمهور أو الصحفيين المتخصصين، وتقييم الموثوقية يقيس انطباعًا عن الوجه لا صدق صاحبه

الصلة بالتحقيق

توضح أن واقعية الوجه والانطباع بأنه موثوق لا يكفيان لإثبات أصالة الصورة، وتدعم تعليم الصحفيين التعامل مع الفحص البصري بوصفه خطوة مساعدة لا حكمًا نهائيًا، مع التحقق من المصدر وسياق النشر

المنشور الأصلي يفتح في نافذة جديدة
2021ورقة مؤتمر أكاديمية محكّمة
المؤشرات البصرية للصور المصنوعة

الانعكاس الذي يستحق الفحص

شو هو، يويزون لي، سيوي ليو

تبحث الدراسة استخدام اختلاف انعكاسات الضوء على قرنيتي العينين للكشف عن الوجوه المولدة بالشبكات التوليدية الخصومية، وتقترح طريقة آلية لاستخراج هذه الانعكاسات ومقارنة تشابهها

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

Exposing GAN-generated Faces Using Inconsistent Corneal Specular Highlights

جهة النشر

المؤتمر الدولي للصوتيات والكلام ومعالجة الإشارات (ICASSP)، IEEE

النتائج الرئيسية

في صور الوجوه الحقيقية المواجهة للكاميرا ضمن شروط إضاءة محددة، تتشابه انعكاسات الضوء بين العينين، بينما رصد الباحثون اختلافات في عدد الانعكاسات وشكلها ومواقعها في وجوه مولدة بنموذج StyleGAN2، وحققت المقارنة مساحة تحت منحنى الكشف قدرها 0٫94 في تجربتهم، وليست هذه النتيجة نسبة دقة عامة

حدود القراءة

اختُبرت الطريقة على صور عالية الدقة لوجوه حقيقية من مجموعة FFHQ وأخرى مولدة بنموذج StyleGAN2، ولا تثبت النتائج صلاحيتها لكل مولدات الصور الحديثة، وقد تعطي إنذارات خاطئة عندما يكون الضوء قريبًا أو لا تراه العينان معًا أو لا يكون الوجه مواجهًا للكاميرا، ولا تصلح عند غياب الانعكاسات وقد تُصلح هذه العيوب بالتعديل اليدوي

الصلة بالتحقيق

توفر أساسًا علميًا لتدريب الصحفيين على فحص اتساق انعكاسات العينين بوصفه قرينة بصرية قابلة للتفسير، مع التعامل مع التناقض باعتباره سببًا للتحقق الإضافي لا حكمًا نهائيًا على الصورة

المنشور الأصلي يفتح في نافذة جديدة
2005دراسة أصلية محكمة
التحليل الجنائي الرقمي للصور

آثار التعديل بين البكسلات

ألين سي بوبسكو وهاني فريد

تقدم الدراسة طريقة لكشف آثار إعادة أخذ العينات الناتجة عن تغيير حجم الصورة أو تدويرها، عبر تحليل الارتباطات الدورية بين البكسلات دون الحاجة إلى علامة مائية أو توقيع رقمي

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

Exposing Digital Forgeries by Detecting Traces of Re-sampling

جهة النشر

IEEE Transactions on Signal Processing، المجلد 53، العدد 2، الصفحات 758–767

النتائج الرئيسية

أظهرت التجارب إمكانية كشف مناطق أعيد تحجيمها أو تدويرها داخل صور مركبة، وكانت النتائج قوية على صور TIFF غير المضغوطة، لكنها تراجعت بوضوح مع ضغط JPEG الذي يخفي الأنماط الإحصائية أو يتداخل معها

حدود القراءة

اعتمد التقييم الأساسي على صور رمادية مقتطعة من صور التقطتها كاميرا واحدة، ويتأثر الكشف بالضغط والضوضاء ويفشل عند بعض نسب التصغير، كما أن إعادة التحجيم أو التدوير قد تكون معالجة مشروعة ولا تثبت التضليل وحدها

الصلة بالتحقيق

توفر أساسًا علميًا لتعليم الصحفيين فحص الآثار التقنية للتعديل وتحديد مناطق تستحق التحقق، مع التمييز بين وجود معالجة رقمية وإثبات تزوير محتوى الصورة

المنشور الأصلي يفتح في نافذة جديدة
2023منشور أكاديمي محكّم يعرض نتائج تجارب أصلية
حدود أدوات كشف الذكاء الاصطناعي

لماذا قد يخطئ الكاشف؟

ويشين ليانغ، ميرت يوكسكغونول، يينينغ ماو، إريك وو، جيمس زو

منشور أكاديمي يعرض تجارب على كواشف النصوص المولدة بالذكاء الاصطناعي، ويبيّن خطر اتهام كتّاب بشريين خطأً، خصوصًا من ليست الإنجليزية لغتهم الأم، وإمكان تجاوز الكشف بتعديل الأسلوب اللغوي

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

GPT detectors are biased against non-native English writers

جهة النشر

Patterns، المجلد 4، العدد 7، المقالة 100779

النتائج الرئيسية

صنفت الكواشف أكثر من نصف مقالات اختبار TOEFL البشرية لكتّاب ليست الإنجليزية لغتهم الأم على أنها مولدة آليًا، مقابل أداء أدق مع عينات الناطقين بها، كما خفّض تنويع المفردات التصنيفات الخاطئة وأتاحت إعادة التحرير اللغوي للنصوص المولدة تجاوز الكواشف المختبرة

حدود القراءة

تعتمد التجارب على عينات إنجليزية صغيرة وكواشف اختُبرت في مارس 2023، ولا تمثل جميع تقنيات الكشف، لذلك لا تثبت النتائج أداء الأدوات الحالية ولا يجوز تعميمها مباشرة على النصوص العربية أو الصور والفيديو

الصلة بالتحقيق

يدعم تدريب الصحفيين على التعامل مع نتيجة الكاشف بوصفها مؤشرًا غير حاسم، لا دليلًا مستقلًا على استخدام الذكاء الاصطناعي، وضرورة التحقق من مصدر النص وسياق إنتاجه قبل توجيه اتهام

المنشور الأصلي يفتح في نافذة جديدة
2021ورقة مؤتمر أكاديمية محكّمة
منشأ المحتوى والتحقق

تتبّع المصدر، لا افتراض الحقيقة

بول إنغلاند، هنريكي إس مالڤار، إريك هورفيتز، جاك دبليو ستوكس وآخرون

تقدم الورقة نظام AMP لتوثيق منشأ الوسائط، يربط المحتوى وبياناته بسجلات يوقعها الناشر رقمياً، ويستخدم بصمات تشفيرية وسجل معاملات قابلاً للتدقيق للتحقق من المصدر وسلامة الأجزاء الموثقة، مع دعم الفيديو المتدفق وتسجيل التحويلات بين النسخ

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

AMP: Authentication of Media via Provenance

جهة النشر

المؤتمر الثاني عشر لأنظمة الوسائط المتعددة، جمعية آلات الحوسبة (ACM MMSys)

النتائج الرئيسية

أظهر اختبار سجل المنشأ في منطقة واحدة على منصة أزور وبثلاث عقد قدرة على معالجة 31٬828 معاملة في الثانية بمتوسط تأخير 154 ملي ثانية؛ تتعلق هذه المعاملات بتسجيل بصمة سجل التوثيق ونص حقوق النشر، ويتيح النظام إيصالات موقعة للتحقق المستقل من التسجيل

حدود القراءة

لا يكشف النظام المحتوى المزيف ولا يضمن أن النسخة المشتقة تمثل الأصل بأمانة، إذ يعتمد ذلك على الثقة بالجهة الموقعة؛ يفترض سلامة البنية التقنية ومفاتيح التوقيع، ولا يعني غياب سجل المنشأ أن المحتوى مزيف؛ نتائج الأداء تخص بيئات اختبار محددة وليست قياساً لخفض التضليل لدى الجمهور

الصلة بالتحقيق

يوضح للصحفي الاستقصائي الفرق بين إثبات ارتباط ملف بناشر معروف وبين إثبات صحة الوقائع التي يعرضها؛ يساعد في فهم تتبع النسخ والتحويلات وتقييم قيمة التوقيعات الرقمية ضمن عملية تحقق أوسع تشمل المصدر والسياق

المنشور الأصلي يفتح في نافذة جديدة
2023دراسة تجريبية أصلية محكّمة
أخلاقيات الذكاء الاصطناعي والتضليل الإعلامي

الأسلوب المقنع لا يضمن الصدق

جوفاني سبيتالي، نيكولا بيلر-أندورنو، فيديريكو جيرماني

دراسة تجريبية مسجلة مسبقًا شملت 697 مشاركًا، واستخدمت مجموعة من 220 تغريدة بشرية ومولدة بنموذج GPT-3 حول موضوعات علمية وصحية، لاختبار القدرة على تمييز المعلومات الصحيحة من المضللة وتحديد مصدر النص

اقرأ نتائج الدراسة وحدودها

عنوان المنشور الأصلي

AI model GPT-3 (dis)informs us better than humans

جهة النشر

ساينس أدفانسز، المجلد 9، العدد 26

النتائج الرئيسية

كان كشف التغريدات المضللة المولدة أصعب قليلًا من كشف نظيرتها البشرية، بينما تعرف المشاركون على صحة التغريدات الدقيقة المولدة بصورة أفضل، وكان متوسط قدرتهم على تمييز النص البشري من المولد قريبًا من التخمين العشوائي

حدود القراءة

اقتصر الاختبار على مستخدمي فيسبوك الناطقين بالإنجليزية وعلى تغريدات معزولة عن سياق الحساب، وكان فرق كشف التضليل صغيرًا، كما افترض الباحثون أن التغريدات البشرية لم تستخدم أدوات ذكاء اصطناعي، فلا تعمم النتائج مباشرة على الجمهور العربي أو النماذج الأحدث أو الانتشار الفعلي للتضليل

الصلة بالتحقيق

توفر أساسًا لتعليم مخاطر الاستخدام المزدوج للذكاء الاصطناعي في الإعلام، وتوضح أن الأسلوب المقنع لا يضمن صحة المحتوى، بما يدعم مناقشة المسؤولية التحريرية والتحقق المستقل من الادعاءات بدل الاكتفاء بتخمين مصدر النص

المنشور الأصلي يفتح في نافذة جديدة
الخطوة التالية في التحقيق

حوّل المعرفة إلى خطوات

دليل عملي لفحص المصدر والسياق والقرائن قبل مشاركة المحتوى