الصورة من موزيلا وتم استخدامها بإذن

تمت كتابة المنشور التالي بشكل مشترك بين الكاتب الضيف سولانا لارسن، محرر تقارير الصحة على الانترنت في موزيلا وليل زهراء، متابع موزيلا مشترك مع ويتنس.

يحتمي الناس في منازلهم حول العالم من جائحة كوفيد-19، مما جعل الانترنت مصدرًا أكثر حيوية من ذي قبل، أصبح الملايين يتعاطفون، ويتعلمون، ويعملون، ويلعبون عبر الانترنت بشكل حصري .

كشفت الجائحة عن إمكانات الانترنت كمصدرٍ عالميٍ عام، كما كشفت أيضًا عن النواحي غير الصحية في الانترنت: فأولئك الذين لا يستطيعون الوصول إلى الانترنت أصبحوا في وضع أكثر سوءًا اليوم، بالإضافة الى ذلك جعل قصور الأمان والخصوصية في تكنولوجيا المستهلك الناس أكثر عرضة للخطر.

وضعت الجائحة النظام البيئي المعطل لمراقبة المحتوى، وهي إحدى القضايا الإشكالية، في دائرة الضوء؛ ويعني ذلك، الطرق المعيبة التي تتعامل بها منصات الانترنت الكبيرة مع خطاب الكراهية، والمعلومات المضللة، والمحتوى غير القانوني. بالرغم من التطورات، فإن فيس بوك، ويوتيوب، والعديد من المنصات الكبيرة الأخرى تشرف على المحتوى بطرق متقلبة أو خطيرة: يتم ترك المحتوى الضار لينتشر، ويتم إزالة المحتوى المقبول بشكل غير عادل. تؤثر هذه القرارات، غالبًا بشكل غير متناسب، على الشعوب في جنوب الكرة الأرضية والذين يتحدثون لغات أقل دعمًا.

نحن في نقطة تحول حاليًا. هل تلوح عيوب الإشراف على المحتوى بشكل أكبر؟ أو هل يمكن أن تصبح هذه الأزمة منعطفًا إيجابيًا حول كيفية تواصلنا عبر الانترنت.

إحدى المشاكل الشائكة مع مراقبي المحتوى هي من -أو ماذا- يقوم بالمراقبة؟ مع إغراق المنصات بالمعلومات المضللة المتعلقة بالجائحة،  وعدم قدرة العديد من مراقبي المحتوى البشر على العمل، تحولت العديد من المنصات بشكل متزايد نحو الذكاء الإصطناعي. محدودية هذه المقاربة واضحة. التصفية الأوتوماتيكية عجزت عن منع المعلومات المضللة المتعلقة ب كوفيد-19 من الانتشار كالنار في الهشيم وعرضت الصحة العامة للخطر. أُغرقت المنصات بالمنشوارات التي تقترح شرب الكلور لمعالجة الفيروس، أو إدعاء أن تقنية (جي5) هي سبب انتشار المرض، بشكل ما.

بالإضافة إلى التغاضي عن المعلومات الخاطئة، تستطيع المراقبة الآلية أن تراقب المحتوى عالي الجودة عن طريق الخطأ. قد يتم الإشارة، بشكل خاطئ، إلى مستخدمي الإنترنت الذين يسألون أسئلة جادة، أو يتحدثون بمصطلحات أو سياقات محلية على أنهم إشكاليون. سببت المراقبة الآلية على فيس بوك في منتصف فترة الجائحة إلى الإزالة الخاطئة لكمٍ كبيرٍ من المحتوى، بما فيها روابط لمقالات إخبارية حول كوفيد-19. إدعى فيس بوك في آذار/مارس أن “مشكلة” تقنية سببت ذلك، وقالوا أنهم قاموا باستعادة المحتوى الذي تمت إزالته.  لكن هذه الحادثة تثير أسئلة جدية حول فعالية هذه الأنظمة، وأبعد من ذلك، تثير الشك حول شفافية فيس بوك. عندما أعلنت يوتيوب أنها رفعت من التصفية التلقائية بسبب كوفيد-19 في آذار/ مارس، كتبوا “أثناء قيامنا بذلك، قد يشهد المستخدمون وصانعو المحتوى تزايدًا في إزالة الفيديوهات، بما في ذلك الفيديوهات التي لا تنتهك  سياساتنا.” بشكل مشابه، شرح تويتر في نفس الشهر أن المراقبة التلقائية “قد تفتقر أحيانًا لفهم السياق كما تفعل فرقنا، وهذا قد يسبب ارتكاب الأخطاء من قبلنا”.

عندما يتم إيقاف الحساب أو تتم إزالة المحتوى بشكل غير عادل فإن عملية الاستئناف مبهمة وهذا لا يساعد. في العديد من الحالات، يُترك المستخدمون من دون فهم الأسباب الكامنة وراء إزالة المحتوى أو إيقاف الحساب. حتى قبل الجائحة، فإن السياق يعترب أمرًا رئيسيًا في النقاش حول الإشراف على المحتوى؛ على سبيل المثال، ما إن كان يجب تطبيق النهج المتمركز حول الولايات المتحدة الأميركية في تحديد اللغة المقبولة على المستوى العالمي.

التقنية الضعيفة هي أحد عيوب مراقبة المحتوى والسياسات غير المتساوية هي عيب آخر. يمكن أن تكون منصات التكنولوجيا متيقظة إلى حد ما في الولايات المتحدة وبعض دول أوروبا لاتباع القوانين المحلية والتمسك بالسياسات الداخلية، ولكن يختلف الأمر في أماكن أخرى. في الانتخابات النيجيرية في 2018، صنف الباحث والمشارك في جلوبال فويسز روزميري أجاي ومجموعة من الزملاء مئات التغريدات التي تنشر معلومات مضللة، وقد كانوا مستائين من معدلات الاستجابة غير المتوقعة وغير المتسقة للتقارير حول هذا النشاط. يقول أجاي “إن أبلغت عن شيء جدي وخطير في يوم الانتخابات، وتواصلوا معك بعد أسبوع من ذلك، فما الفائدة من ذلك؟”. هذه الفكرة مريعة بشكل مماثل في سياق اليوم: إن قامت منصة بإزالة أخبار مضللة بعد أن رآها ملايين الناس، فالضرر قد حصل فعلًا.   

 ما ذُكر ليست سوى مشكلتين من قائمة للعديد من المشاكل طويلة الأمد في عالم مراقبة المحتوى. في مسح أجرته موزيلا مؤخرًا حول مساحة التواصل الاجتماعي، وجدنا مشاكل أخرى. تحدثنا مع مجموعة بولندية غير ربحية تعمل على التخفيف من ضرر المخدرات، تم تعليقها من قبل فيس بوك ولم تكن قادرة على الطعن في القرار. تحدثنا أيضًا مع مجموعة بحث في مجال حقوق الإنسان اسمها (الأرشيف السوري)، والذين قالوا أنه يتم بشكل متكرر مسح أدلة حول انتهاكات حقوق الإنسان في الحرب من قبل المنصات. ليس من الصعب رؤية مدى خطورة هذا الأمر خاصة في فترة الجائخة. ماذا لو اختفت معلومات مهمة تتعلق بالصحة، أو تم عن طريق الخطأ إزالة أدلة حول انتهاكات حقوق الإنسان أثناء الحجر؟  

لا يوجد علاج لكل هذه المشاكل. إلا أن مزيدًا من الشفافية حول ما يتم إزالته، متى، ولماذا، وأي جزء من الإزالة يمكن الطعن به وإعادته، هذا قد يساعد كثيرًا من الباحثين ويؤثر على المنصات التي تتوجه بالنصح للناس وصانعي القرار. أصبحت تقارير الشفافية الصادرة عن منصات أساسية أكثر تفصيلًا عبر السنوات، وجزء من الفضل يعود في ذلك إلى المجتمع المدني، بما فيه الموقعين على مبادئ سانتا كلارا. تم إطلاق المبادرة المجتمعية لتحديد الخطوط العريضة للشفافية والمساءلة في مراقبة المحتوى في عام 2018، وانضمت العديد من المنصات لتأكيدها. في آذار/ مارس تمت الإشارة إلى الحاجة لتحديث المبادئ، أطلقت مؤسسة الحدود الالكترونية (EFF) مبادرة عالمية لتقديم عروض (اليوم النهائي للتقديم هو 30 حزيران/ يونيو) حول تلبية الاحتياجات بشكل أفضل للأصوات المهمشة التي تأثرت بشكل كبير.

 الكثير من الأمور مجهولة حول أنماط المراقبة وتقديم الطعن في السياق العالمي المختلف، حتى أن الأدلة الفردية من المستخدمين المتأثرين قد تكون مصدرًا قيمًا. سيلينسد أونلاين هي أداة شعبية جديدة للمصادر الجماعية ونقاش الخبرات حول الإزالة غير العادلة حول العالم. تأمل بأن تخلق شبكة من المنظمات والأفراد الذين يعملون على، أو يريدون بدء العمل على، إزالة المحتوى والمراقبة.    

تتفق المجموعات الأخرى على أنه من الضروري أن يشترك المجتمع المدني والباحثون في مسائل إدارة مراقبة المحتوى وتنظيم المنصات. تميل الفضائح والأزمات إلى إثارة قواعد جديدة وإجراءات، أو المناداة بمزيد من الأتمتة، والتي لا تستند بالضروري إلى تحليل مستقل حول ما الذي يعمل. مناهج جديدة لخلق المساءلة وآليات الاعتراض، مثل مجلس الرقابة الجديد في فيس بوك، يطلب انتباه من الجمهور العالمي.

كما هو موضح في الأعلى، فإن جائحة كوفيد-19 تجلب عيوب مراقبة المحتوى إلى حد كبير، إلا أن المشكلة طويلة الأمد، ليست أقلها ما يتعلق بمشاكل الصحة والمعلومات المغلوطة. هذه المشاكل تتطلب تغيير الإجراءات اليومية للمنصات بالإضافة إلى المحاسبته. قد يحفز الاهتمام والتركيز المتزايد على القضية تغييرًا جيدًا. قد تؤدي إلى المزيد من الشفافية، المزيد من التقنية البشرية، قوانين أفضل وانترنت أكثر صحة.