عندما أخبر مارك زوكربيرج الكونجرس أن فيسبوك يمكن ان يستخدم الذكاء الاصطناعي للكشف عن الأخبار المزيفة المنشورة على مواقع التواصل الاجتماعي، لم يكن محددًا بشكل خاص بموضوع محدد، وكان هناك بعض المتخصصين بمجال استخدام تحليلات الصور والفيديو، مع ملاحظة أن تكون المهمة حذرة، سيما مع احتمال كبير لان ترافق العملية بعض العيوب الأساسية المحتملة، وواضح ان الاعتماد سيكون كبيرا على الذكاء الاصطناعي كأداة مفيدة لاكتشاف الدعاية عبر الإنترنت في ذات الوق احتمال قد يكون أيضًا جيدًا بشكل مذهل في إنشاء المواد المضللة.

يعرف الباحثون بالفعل أن الأخبار المزيفة تنتشر بسرعة أكبر عبر الإنترنت وعلى نطاق أوسع بكثير من الأخبار الحقيقية، وقد توصلت احد البحوث إلى أن المنشورات عبر الإنترنت التي تحتوي على معلومات طبية مزيفة تحصل على مشاهدات وتعليقات وإعجابات أكثر من تلك التي تحتوي على محتوى طبي دقيق. في عالم الإنترنت الذي يحظى المشاهدون فيه باهتمام محدود لانهم مشبعين بخيارات المحتوى، وغالبًا ما يبدو كما لو أن المعلومات المزيفة أكثر جاذبية أو جذبًا للمشاهدين.

وازدادت المشكلة سوءا بعد عام 2022، حيث واجه الناس في الاقتصادات المتقدمة المزيد من الأخبار المزيفة مقارنة بالمعلومات الحقيقية. وقد أدى هذا إلى ظاهرة أطلق عليها الباحثون اسم "دوار الواقع" - حيث يمكن لأجهزة الكمبيوتر توليد مثل هذا المحتوى المقنع الذي قد يجد الأشخاص العاديون صعوبة في التفريق بين ما هو حقيقي وغير حقيقي.

**كشف الباطل

لقد نجحت خوارزميات التعلم الآلي، وهي أحد أنواع الذكاء الاصطناعي، لعقود من الزمن في مكافحة البريد الإلكتروني العشوائي، من خلال تحليل نص الرسائل وتحديد مدى احتمال أن تكون رسالة معينة عبارة عن اتصال حقيقي من شخص فعلي - أو التماس موزع على نطاق واسع للأدوية أو المطالبة بالثروة المفقودة منذ فترة طويلة.

بناءً على هذا النوع من تحليل النص في مكافحة البريد العشوائي، أمكن لأنظمة الذكاء الاصطناعي تقييم مدى جودة نص المنشور أو العنوان الرئيسي مقارنة بالمحتوى الفعلي لمقالة يشاركها شخص ما عبر الإنترنت، كما ان هناك طريقة أخرى يمكن من خلالها فحص المقالات المشابهة لمعرفة ما إذا كانت وسائل الإعلام الإخبارية الأخرى لديها حقائق اخرى مختلفة،كذلك يمكن لأنظمة مماثلة تحديد حسابات محددة ومواقع الويب مصدر المعلومات التي تنشر أخبارًا مزيفة.

**بدايات التزييف لا نهاية لها

تفترض هذه الأساليب أن الأشخاص الذين ينشرون الأخبار المزيفة لا يغيرون أساليبهم. غالبًا ما يغيرون تكتيكاتهم، ويتلاعبون بمحتوى المنشورات المزيفة في محاولة لجعلها تبدو أكثر واقعية.

إن استخدام الذكاء الاصطناعي لتقييم المعلومات يمكن أن يفضح – ويضخم – بعض ألاخطاء المنهجية والعيوب التي تجعل البشر ينحرفون عن المعايير العقلانية في المجتمع. ويمكن أن يرتبط هذا بالجنس أو الخلفية العرقية أو الصور النمطية للجيران. بل ويمكن أن تكون له عواقب سياسية، مما قد يؤدي إلى التأثير سلبا على حريات التعبير عن وجهات نظر معينة. على سبيل المثال، قام موقع YouTube بقطع الإعلانات عن أنواع معينة من قنوات الفيديو، مما كلف منشئي هذه القنوات خسائر مالية كبيرة ، السياق بمعنى القرائنُ الدالة على المقصودِ في الكلام هو أيضا المفتاح. يمكن أن تتغير معاني الكلمات بمرور الوقت. والكلمة نفسها يمكن أن تعني أشياء مختلفة على المواقع الليبرالية عن المحافظة. على سبيل المثال، من المرجح أن يكون المنشور الذي يحتوي على المصطلحين "ويكيليكس" و"DNC" على موقع أكثر ليبرالية خبرًا، بينما يمكن أن يشير على موقع محافظ إلى مجموعة معينة من نظريات المؤامرة وهكذا.