الفصل العنصري الرقمي واستخدام خوارزميات التواصل الاجتماعي في الأزمات الإنسانية

Photo by Alfo Medeiros from Pexels

متظاهرون في فلسطين. الصورة من ألفو ميديروس من Pexels، مستخدمة بموجب ترخيص Pexels License.

يعد الفصل العنصري الرقمي أحد المصطلحات العديدة الجديدة التي نراها اليوم، والتي تتناول القيود المفروضة على الإنترنت ومدى قدرة منصات التكنولوجيا الكبيرة على اختيار المحتوى الذي نراه على قنواتنا، مما يؤدي أحيانًا إلى خنق ورقابة الأصوات السياسية التي تقف ضد المعارضة والحجب.

في الآونة الأخيرة، أصبح المستخدمون أكثر وعيًا بموجة الرقابة التي عززتها المنصات من خلال “الحظر الخفي“، وهو شكل من أشكال الرقابة التي تقيد رؤية محتوى معين دون إخطار المستخدمين، واتهامات “بانتهاك إرشادات المجتمع”. هذه ليست سوى بعض من المصطلحات العديدة المستخدمة لإسكات الأصوات التي تتحدث عن الإبادة الجماعية الفلسطينية الحالية التي تحدث منذ 9 أكتوبر/تشرين الأول.

شهد التاريخ على كيفية تفاقم الأزمات الإنسانية في حالة الحرب. مع ذلك، فإن ما يختلف في الحروب التي نشهدها في هذا العصر هو قوة الإنترنت ودور منصات التكنولوجيا الكبرى. بعد غزو روسيا لأوكرانيا، رأينا الدور الذي لعبته في نشر أصوات الناجين من الحرب. كان هناك صعود في نشاط الحرب التكنولوجية حيث اختارت منصات وسائل التواصل الاجتماعي اختيار جانب وتقديم خدماتها بطريقة تساعد المواطنين الأوكرانيين.

على الرغم من مساعدة هذه الخطوة في نشر الأصوات على الأرض، وتسليط الضوء على جرائم الحرب المحتملة التي تحدث، فمن المفيد التساؤل عما إذا كانت نفس المعايير يتم تطبيقها على البلدان التي ليست جزءًا من بلدان الشمال العالمي. أثار اندلاع الصراع الفلسطيني الإسرائيلي مؤخرًا مجموعة من الأسئلة حول اختيار منصات التكنولوجيا الكبرى لتضخيم أصوات معينة في أزمات إنسانية معينة، بينما تختار بشكل ملائم تجاهل الباقي.

وفقًا لتقرير منظمة العفو الدولية في عام 2017، أدت نماذج ميتا الخوارزمية ومصالحها الربحية إلى تضخيم الفظائع خلال أزمة مسلمي الروهينجا في ميانمار (أكتوبر/تشرين الأول 2016 – يناير/كانون الثاني 2017). نفذت قوات الأمن في ميانمار حملة تطهير عرقي واسعة النطاق على منصة ميتا، فيسبوك، مما أدى لانتهاكات خطيرة لحقوق الإنسان على الأرض والتحريض على المزيد من الكراهية والعنف والتمييز ضد المجتمع. زاد المحتوى الضار والكراهية على فيسبوك، عام 2018، اعترفت الشركة بعدم القيام بما يكفي لمنع تصعيد هذا المحتوى على منصاتها. أدى ذلك إلى رفع دعوى قضائية ضد المنصة في المملكة المتحدة والولايات المتحدة. القضية مستمرة.

في الآونة الأخيرة، وفقًا لمنظمة “حملة” الفلسطينية غير الحكومية (المركز العربي لتطوير وسائل التواصل الاجتماعي)، في الفترة ما بين 7 أكتوبر/تشرين الأول و14 نوفمبر/تشرين الثاني، كان هناك 1447 انتهاكًا تم التحقق منه للحقوق الرقمية الفلسطينية. يتضمن هذا العدد 573 حالة تقييد للحسابات أو إزالة محتوى لمستخدمين ومؤيدين فلسطينيين. كانت هناك أيضًا 904 حالة من خطاب الكراهية والتحريض على العنف وغيرها من أشكال العنف عبر الإنترنت التي تسهلها التكنولوجيا والتي تم التحقق منها يدويًا.

طورت “حملة” نموذجًا لغويًا، مدعومًا بالذكاء الاصطناعي، يراقب انتشار خطاب الكراهية باللغة العبرية ضد الفلسطينيين والمستخدمين المؤيدين لفلسطين على المنصات. وقد وثق مؤشر العنف أكثر من مليون حالة مصنفة لخطاب الكراهية عبر المنصات، تم العثور على معظمها على موقع X (تويتر سابقًا). بحسب حملة، كانت 68% من الحالات الموثقة لخطاب الكراهية والتحريض مبنية على الانتماءات السياسية و/أو المشاعر القومية، و29% على التحيز العنصري، والباقي شمل العنف القائم على النوع الاجتماعي، والعنف الديني وغيرها.

في الآونة الأخيرة، لاحظ المستخدمون حول العالم، أن منصات التكنولوجيا الكبيرة قللت من مدى وصولها العضوي، حيث أبلغ المستخدمون عن عدد أقل من الأشخاص القادرين على مشاهدة محتواهم الخاص، لا سيما فيما يتعلق بالإبادة الجماعية المستمرة والحرب الجارية في غزة. أبلغ العديد من النشطاء والأشخاص أن منصات التكنولوجيا الكبرى مثل فيسبوك، وإنستغرام، وإكس، ويوتيوب، وتيك توك، تحظر المحتوى المؤيد للفلسطينيين.

كانت هناك أيضًا تقارير عن قيام إنستغرام، بإزالة الحسابات المؤيدة للفلسطينيين، التي تعد مصدرًا للأخبار لعدد لا يحصى من الأشخاص عبر الإنترنت، مثل @eye.on.palestine، المحجوب سابقًا، وإعادته الآن إلى المنصة، مع متابعة تبلغ 8.8 مليون مستخدم. تعرض إنستغرام أيضًا لانتقادات بسبب إضافة كلمة “إرهابي” إلى السير الذاتية لمستخدمي إنستغرام الذين يصفون أنفسهم بأنهم فلسطينيين على المنصة. يطلق على الأزمة بالفعل وصف “ضباب الحرب المدفوع خوارزميًا“، مع الاستخدام المتزايد للذكاء الاصطناعي والذكاء الاصطناعي التوليدي الذي يستخدم لنشر المعلومات المضللة ضد الأصوات المؤيدة للفلسطينيين.

كما أصدرت مجموعات حقوقية دولية مثل منظمة العفو الدولية، ومنظمة Access Now، بيانات حول العنصرية المستمرة، وخطاب الكراهية الذي يواجهه الفلسطينيون عبر الإنترنت، وحاجة المنصات لبذل المزيد من الجهد في أوقات الأزمات، بدلاً من فرض الرقابة، وحظر المواطنين الذين يشهدون بالفعل حربًا مستمرة على الأرض.

للحد من هذا الحاجز المستهدف من قبل منصات وسائل التواصل الاجتماعي، قام بعض المستخدمين على الإنترنت بأخذ “فواصل خوارزمية” و”خداع الخوارزميات” من خلال نشر قصص عادية، ثم إضافة قصص عن الحرب المستمرة بينهما.

أضاف المستخدمون أيضًا أصوات صفير لإخفاء التعليقات الصوتية، وغيروا تهجئة الكلمات الإنجليزية والعربية الشائعة مثل “فلسطين”، و”إبادة جماعية”، و”حماس” لتجنب اكتشافها، ووضعوا الرسائل بين المنشورات العادية والبكرات التي تحتوي على صور ورسائل. أشرطة فيديو من غزة حول الإبادة الجماعية المستمرة لنشر الكلمة. يتبنى بعض المستخدمين “algospeak“، حيث يقومون بإنشاء كلمات جديدة بدلاً من الكلمات الرئيسية حتى لا تلتقطها الخوارزميات ويتم إزالتها من الأنظمة الأساسية، وهو أسلوب تهرب يستخدم لمواجهة الإشراف الآلي على وسائل التواصل الاجتماعي.

تحدثت جلوبال فويسز مع منى شتيه، المدافعة عن الحقوق الرقمية والمقيمة في فلسطين، عبر موقع لينكد إن، حول الفصل العنصري الرقمي الذي يعاني منه المواطنون الفلسطينيون، ومدى أهمية منصات التكنولوجيا الكبرى خلال هذا الوقت:

Given the inadequate and biased coverage by international mainstream media and the targeting of journalists, social media platforms should serve as a means for Palestinians to share their narrative. However, the reality differs significantly.

These platforms heavily censor Palestinian voices, shadowban Palestinians and their supporters, and infringe upon their rights to free speech, assembly, access to information, political participation, and protection from discrimination. These violations closely resemble those witnessed in 2021 [in Palestine], representing a systematic and deliberate suppression of Palestinian voices, as confirmed by the Sustainable Business Network and Consultancy (BSR) report. This highlights the platforms’ failure to uphold fundamental human rights principles.

نظرًا للتغطية غير الكافية والمتحيزة من قبل وسائل الإعلام الدولية الرئيسية واستهداف الصحفيين، يجب أن تكون منصات وسائل التواصل الاجتماعي بمثابة وسيلة للفلسطينيين لمشاركة رواياتهم. ومع ذلك، فإن الواقع يختلف بشكل كبير. تفرض هذه المنصات رقابة شديدة على الأصوات الفلسطينية، وفلسطينيي الظل ومؤيديهم، وتنتهك حقوقهم في حرية التعبير، والتجمع، والوصول إلى المعلومات، والمشاركة السياسية، والحماية من التمييز. وتشبه هذه الانتهاكات إلى حد كبير ما شهده عام 2021 [في فلسطين]، حيث تمثل قمعًا ممنهجًا ومتعمدًا للأصوات الفلسطينية، كما أكد تقرير شبكة الأعمال المستدامة والاستشارات (BSR). وهذا يسلط الضوء على فشل هذه المنصات في دعم مبادئ حقوق الإنسان الأساسية.

أضافت شتيه، تسبب مواطن الخلل الخوارزمية والحظر الخفي للمحتوى المؤيد للفلسطينيين مشاكل للأشخاص الذين يحاولون مشاركة قصصهم مع العالم والدعوة إلى وقف فوري لإطلاق النار.

قالت: “الرقابة على وسائل التواصل الاجتماعي تخنقنا، مما يؤدي إلى تفاقم معاناتنا ومكافحة التمييز المنهجي. إنها تضخم الرقابة الذاتية وتخلق تأثيرًا مخيفًا، مما يؤدي في النهاية إلى تفاقم القمع الذي تواجهه المجتمعات المهمشة”.

فيما يتعلق بما يمكن أن يفعله الجمهور للمساعدة، أشارت شتيه:

People should be aware of falling victim to disinformation and one-sided narratives. Social media censorship impedes Palestinians from sharing their perspectives. Therefore, the general public should proactively fact-check the news they receive regarding events on the ground and ensure they engage with and listen to the Palestinian narrative. Additionally, individuals should support Palestinian voices by following Palestinian accounts and sharing their content.

يجب أن يدرك الناس خطورة الوقوع ضحية للمعلومات المضللة، والروايات الأحادية الجانب. تمنع الرقابة على وسائل التواصل الاجتماعي الفلسطينيين من مشاركة وجهات نظرهم. لذلك، يجب على عامة الناس التحقق بشكل استباقي من الأخبار التي يتلقونها فيما يتعلق بالأحداث على الأرض والتأكد من تفاعلهم مع الرواية الفلسطينية والاستماع إليها. بالإضافة إلى ذلك، يجب على الأفراد دعم الأصوات الفلسطينية من خلال متابعة الحسابات الفلسطينية ومشاركة محتواها.

في أوقات الأزمات الإنسانية، أثبتت منصات التواصل الاجتماعي أنها المنفذ الوحيد لتوثيق الأحداث وتثقيف الناس في جميع أنحاء العالم حول الانتهاكات والمعاناة على الأرض. إن اختيار المنصات للتمييز ضد هويات معينة يعد انتهاكًا خطيرًا لحقوق الإنسان ويخلق فصلًا عنصريًا رقميًا لا يؤدي إلا إلى تفاقم الأزمات.


سيرات خان قائدة البرامج في مؤسسة الحقوق الرقمية في باكستان، وقد قامت بعمل مكثف حول النوع الاجتماعي والتكنولوجيا على مدى السنوات السبع الماضية. تعمل في الغالب مع المدافعات عن حقوق الإنسان والصحفيات حول موضوعات رئيسية مثل حماية البيانات والسلامة عبر الإنترنت والجنس والخصوصية والمعلومات المضللة.

ابدأ المحادثة

الرجاء تسجيل الدخول »

شروط الاستخدام

  • جميع التعليقات تخضع للتدقيق. الرجاء عدم إرسال التعليق أكثر من مرة كي لا يعتبر تعليق مزعج.
  • الرجاء معاملة الآخرين باحترام. التعليقات التي تحوي تحريضاً على الكره، فواحش أو هجوم شخصي لن يتم نشرها.

اشترك بتحديثات القائمة البريدية للأصوات العالمية

لا أريد الإشتراك، أرسلني للموقع