دراسات أصلية تساعدنا على فهم قدرة البشر على التمييز، وحدود أدوات الكشف، وقيمة تتبّع المصدر
نتائج كل دراسة مرتبطة بعينتها وأدواتها وزمنها، لا يجوز تعميم نتائج كشف النصوص على الصور أو تطبيق أداء نموذج قديم على جميع النماذج الحديثة
6 مصادر
2022دراسة تجريبية أصلية محكّمة
قدرة البشر على تمييز الصور المولدة
حين يصعب التمييز بين الوجوه
صوفي جي نايتنغيل وهاني فريد
اختبرت دراسة تجريبية قدرة المشاركين على التمييز بين صور وجوه حقيقية ووجوه مولدة بنموذج StyleGAN2، وأثر التدريب والتغذية الراجعة، ثم قيّمت الانطباع عن موثوقية الوجوه في تجربة منفصلة، باستخدام مجموعة تضم 400 وجه مولد و400 وجه حقيقي مطابق لها في خصائص المظهر
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
AI-synthesized faces are indistinguishable from real faces and more trustworthy
جهة النشر
وقائع الأكاديمية الوطنية للعلوم في الولايات المتحدة الأمريكية (PNAS)، المجلد 119، العدد 8
النتائج الرئيسية
بلغ متوسط دقة التمييز لدى 315 مشاركًا دون تدريب 48.2%، قريبًا من التخمين العشوائي البالغ 50%، وبلغ 59.0% لدى مجموعة أخرى من 219 مشاركًا تلقت تدريبًا وتغذية راجعة بعد كل إجابة، دون تحسن خلال التجربة الثانية، وفي تجربة ثالثة مع 223 مشاركًا نالت الوجوه المولدة متوسط موثوقية متصورة قدره 4.82 مقابل 4.48 للوجوه الحقيقية على مقياس من 1 إلى 7
حدود القراءة
تخص النتائج وجوهًا ثابتة مولدة بنموذج StyleGAN2، وليست جميع الصور المولدة أو النماذج الأحدث، واستُبعدت الصور ذات عيوب التوليد الواضحة واختيرت خلفيات شبه موحدة، ما صعّب مهمة التمييز، كما أن المشاركين جُنّدوا من منصة Mechanical Turk ولا تمثل العينة بالضرورة عموم الجمهور أو الصحفيين المتخصصين، وتقييم الموثوقية يقيس انطباعًا عن الوجه لا صدق صاحبه
الصلة بالتحقيق
توضح أن واقعية الوجه والانطباع بأنه موثوق لا يكفيان لإثبات أصالة الصورة، وتدعم تعليم الصحفيين التعامل مع الفحص البصري بوصفه خطوة مساعدة لا حكمًا نهائيًا، مع التحقق من المصدر وسياق النشر
تبحث الدراسة استخدام اختلاف انعكاسات الضوء على قرنيتي العينين للكشف عن الوجوه المولدة بالشبكات التوليدية الخصومية، وتقترح طريقة آلية لاستخراج هذه الانعكاسات ومقارنة تشابهها
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
Exposing GAN-generated Faces Using Inconsistent Corneal Specular Highlights
جهة النشر
المؤتمر الدولي للصوتيات والكلام ومعالجة الإشارات (ICASSP)، IEEE
النتائج الرئيسية
في صور الوجوه الحقيقية المواجهة للكاميرا ضمن شروط إضاءة محددة، تتشابه انعكاسات الضوء بين العينين، بينما رصد الباحثون اختلافات في عدد الانعكاسات وشكلها ومواقعها في وجوه مولدة بنموذج StyleGAN2، وحققت المقارنة مساحة تحت منحنى الكشف قدرها 0٫94 في تجربتهم، وليست هذه النتيجة نسبة دقة عامة
حدود القراءة
اختُبرت الطريقة على صور عالية الدقة لوجوه حقيقية من مجموعة FFHQ وأخرى مولدة بنموذج StyleGAN2، ولا تثبت النتائج صلاحيتها لكل مولدات الصور الحديثة، وقد تعطي إنذارات خاطئة عندما يكون الضوء قريبًا أو لا تراه العينان معًا أو لا يكون الوجه مواجهًا للكاميرا، ولا تصلح عند غياب الانعكاسات وقد تُصلح هذه العيوب بالتعديل اليدوي
الصلة بالتحقيق
توفر أساسًا علميًا لتدريب الصحفيين على فحص اتساق انعكاسات العينين بوصفه قرينة بصرية قابلة للتفسير، مع التعامل مع التناقض باعتباره سببًا للتحقق الإضافي لا حكمًا نهائيًا على الصورة
تقدم الدراسة طريقة لكشف آثار إعادة أخذ العينات الناتجة عن تغيير حجم الصورة أو تدويرها، عبر تحليل الارتباطات الدورية بين البكسلات دون الحاجة إلى علامة مائية أو توقيع رقمي
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
Exposing Digital Forgeries by Detecting Traces of Re-sampling
جهة النشر
IEEE Transactions on Signal Processing، المجلد 53، العدد 2، الصفحات 758–767
النتائج الرئيسية
أظهرت التجارب إمكانية كشف مناطق أعيد تحجيمها أو تدويرها داخل صور مركبة، وكانت النتائج قوية على صور TIFF غير المضغوطة، لكنها تراجعت بوضوح مع ضغط JPEG الذي يخفي الأنماط الإحصائية أو يتداخل معها
حدود القراءة
اعتمد التقييم الأساسي على صور رمادية مقتطعة من صور التقطتها كاميرا واحدة، ويتأثر الكشف بالضغط والضوضاء ويفشل عند بعض نسب التصغير، كما أن إعادة التحجيم أو التدوير قد تكون معالجة مشروعة ولا تثبت التضليل وحدها
الصلة بالتحقيق
توفر أساسًا علميًا لتعليم الصحفيين فحص الآثار التقنية للتعديل وتحديد مناطق تستحق التحقق، مع التمييز بين وجود معالجة رقمية وإثبات تزوير محتوى الصورة
ويشين ليانغ، ميرت يوكسكغونول، يينينغ ماو، إريك وو، جيمس زو
منشور أكاديمي يعرض تجارب على كواشف النصوص المولدة بالذكاء الاصطناعي، ويبيّن خطر اتهام كتّاب بشريين خطأً، خصوصًا من ليست الإنجليزية لغتهم الأم، وإمكان تجاوز الكشف بتعديل الأسلوب اللغوي
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
GPT detectors are biased against non-native English writers
جهة النشر
Patterns، المجلد 4، العدد 7، المقالة 100779
النتائج الرئيسية
صنفت الكواشف أكثر من نصف مقالات اختبار TOEFL البشرية لكتّاب ليست الإنجليزية لغتهم الأم على أنها مولدة آليًا، مقابل أداء أدق مع عينات الناطقين بها، كما خفّض تنويع المفردات التصنيفات الخاطئة وأتاحت إعادة التحرير اللغوي للنصوص المولدة تجاوز الكواشف المختبرة
حدود القراءة
تعتمد التجارب على عينات إنجليزية صغيرة وكواشف اختُبرت في مارس 2023، ولا تمثل جميع تقنيات الكشف، لذلك لا تثبت النتائج أداء الأدوات الحالية ولا يجوز تعميمها مباشرة على النصوص العربية أو الصور والفيديو
الصلة بالتحقيق
يدعم تدريب الصحفيين على التعامل مع نتيجة الكاشف بوصفها مؤشرًا غير حاسم، لا دليلًا مستقلًا على استخدام الذكاء الاصطناعي، وضرورة التحقق من مصدر النص وسياق إنتاجه قبل توجيه اتهام
بول إنغلاند، هنريكي إس مالڤار، إريك هورفيتز، جاك دبليو ستوكس وآخرون
تقدم الورقة نظام AMP لتوثيق منشأ الوسائط، يربط المحتوى وبياناته بسجلات يوقعها الناشر رقمياً، ويستخدم بصمات تشفيرية وسجل معاملات قابلاً للتدقيق للتحقق من المصدر وسلامة الأجزاء الموثقة، مع دعم الفيديو المتدفق وتسجيل التحويلات بين النسخ
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
AMP: Authentication of Media via Provenance
جهة النشر
المؤتمر الثاني عشر لأنظمة الوسائط المتعددة، جمعية آلات الحوسبة (ACM MMSys)
النتائج الرئيسية
أظهر اختبار سجل المنشأ في منطقة واحدة على منصة أزور وبثلاث عقد قدرة على معالجة 31٬828 معاملة في الثانية بمتوسط تأخير 154 ملي ثانية؛ تتعلق هذه المعاملات بتسجيل بصمة سجل التوثيق ونص حقوق النشر، ويتيح النظام إيصالات موقعة للتحقق المستقل من التسجيل
حدود القراءة
لا يكشف النظام المحتوى المزيف ولا يضمن أن النسخة المشتقة تمثل الأصل بأمانة، إذ يعتمد ذلك على الثقة بالجهة الموقعة؛ يفترض سلامة البنية التقنية ومفاتيح التوقيع، ولا يعني غياب سجل المنشأ أن المحتوى مزيف؛ نتائج الأداء تخص بيئات اختبار محددة وليست قياساً لخفض التضليل لدى الجمهور
الصلة بالتحقيق
يوضح للصحفي الاستقصائي الفرق بين إثبات ارتباط ملف بناشر معروف وبين إثبات صحة الوقائع التي يعرضها؛ يساعد في فهم تتبع النسخ والتحويلات وتقييم قيمة التوقيعات الرقمية ضمن عملية تحقق أوسع تشمل المصدر والسياق
دراسة تجريبية مسجلة مسبقًا شملت 697 مشاركًا، واستخدمت مجموعة من 220 تغريدة بشرية ومولدة بنموذج GPT-3 حول موضوعات علمية وصحية، لاختبار القدرة على تمييز المعلومات الصحيحة من المضللة وتحديد مصدر النص
اقرأ نتائج الدراسة وحدودها
عنوان المنشور الأصلي
AI model GPT-3 (dis)informs us better than humans
جهة النشر
ساينس أدفانسز، المجلد 9، العدد 26
النتائج الرئيسية
كان كشف التغريدات المضللة المولدة أصعب قليلًا من كشف نظيرتها البشرية، بينما تعرف المشاركون على صحة التغريدات الدقيقة المولدة بصورة أفضل، وكان متوسط قدرتهم على تمييز النص البشري من المولد قريبًا من التخمين العشوائي
حدود القراءة
اقتصر الاختبار على مستخدمي فيسبوك الناطقين بالإنجليزية وعلى تغريدات معزولة عن سياق الحساب، وكان فرق كشف التضليل صغيرًا، كما افترض الباحثون أن التغريدات البشرية لم تستخدم أدوات ذكاء اصطناعي، فلا تعمم النتائج مباشرة على الجمهور العربي أو النماذج الأحدث أو الانتشار الفعلي للتضليل
الصلة بالتحقيق
توفر أساسًا لتعليم مخاطر الاستخدام المزدوج للذكاء الاصطناعي في الإعلام، وتوضح أن الأسلوب المقنع لا يضمن صحة المحتوى، بما يدعم مناقشة المسؤولية التحريرية والتحقق المستقل من الادعاءات بدل الاكتفاء بتخمين مصدر النص