الصورة من تصميم صفا، مع عناصر بصرية من لا لوما، مستخدمة بإذن.

كتبت هذا المقال صفا لصالح سلسلة “الفجوات الرقمية“ ونُشر في الأصل على موقع tacticaltech.org. وتُعاد طباعة نسخة محررة منه على منصة جلوبال فويسز بموجب اتفاقية شراكة.

يمكن للمصطلحات المستخدمة في وصف التكنولوجيا أن تشكل طريقة تفكيرنا حيالها. تحمل كلمة “ذكي” دلالة إيجابية في أغلب الأحيان، ولكن عندما يتعلق الأمر بالتكنولوجيا، عادة ما تُستخدم كلمة “ذكي” كمرادف لكلمة “فعال”. تخيل لو أننا بدلًا من وصف أنظمة المراقبة بأنها “ذكية”، أطلقنا عليها اسم “ميكيافيلية” — كيف يمكن لذلك أن يغير خطابنا تجاهها، ومدى قبولنا واعتمادنا لها؟

أنظمة غير موثوقة

تعتمد أدوات المراقبة والتحكم، مثل كاميرات المراقبة التلفزيونية المغلقة (CCTV)، على تقنية التعرف على الوجوه، والتي تحدد تلقائيًا بيانات الوجه الفريدة، بما في ذلك قياسات مثل المسافة بين العينين، وعرض الأنف، وعمق تجاويف العين، وشكل عظام الوجنة، وطول خط الفك. وتستخدم الحكومات والشرطة ووكالات أخرى حول العالم تقنية التعرف على الوجوه، محققة نتائج ملموسة.

أسفرت عملية غير مسبوقة أجرتها سلطات إنفاذ القانون الأمريكية عن تحديد هوية مئات الأطفال ومُعنِّفيهم في غضون ثلاثة أسابيع فقط. كما استُخدمت هذه التقنية للعثور على المفقودين والقتلى من السكان الأصليين (MMIP)، مما ساعد 57 عائلة في العثور على إجابات في ثلاث سنوات فقط. وفي حين أن هذه النتائج رائعة حقًا وتكشف عن الطرق التي يمكن من خلالها استخدام تطبيقات التكنولوجيا لمساعدة الناس، فقد كانت هناك أيضًا حالات عديدة استخدمت فيها سلطات إنفاذ القانون الأمريكية تقنية التعرف على الوجوه بطرق ألحقت الضرر بالأفراد.

يتضمن تطبيق يُدعى “سي بي بي وان” (CBP One)، والذي يُطلب من طالبي اللجوء استخدامه على الحدود الأمريكية المكسيكية، شرطًا يُلزم الأشخاص بتسجيل أنفسهم في نظام التعرف على الوجوه. ومع ذلك، فإن هذا النظام “[يفشل] في تسجيل العديد من الأشخاص ذوي البشرة الداكنة، مما يحرمهم فعليًا من حقهم في طلب الدخول إلى الولايات المتحدة”. تتيح الأنظمة التي تُركز بيانات طالبي اللجوء والمهاجرين إمكانية التتبع الطولي للأطفال. كما تُستخدم تقنيات التعرف على الوجوه من قبل وكالة إنفاذ قوانين الهجرة والجمارك الأمريكية (ICE) لرصد ومراقبة الأشخاص الذين ينتظرون جلسات الاستماع الخاصة بترحيلهم.

في إحدى الدراسات حول أنظمة التعرف على الوجوه، وجدت باحثة معهد ماساتشوستس للتكنولوجيا جوي بولامويني أن “الإناث ذوات البشرة الداكنة هن المجموعة الأكثر تعرضًا للتصنيف الخاطئ (بمعدلات خطأ تصل إلى 34.7 في المئة). بينما يبلغ الحد الأقصى لمعدل الخطأ للذكور ذوي البشرة الفاتحة 0.8 في المئة”. ووصف باحث جامعة هارفارد أليكس ناجيبي كيف أن “الأمريكيين السود أكثر عرضة للاعتقال والسجن بسبب جرائم بسيطة مقارنة بالأمريكيين البيض. نتيجة لذلك، يمثل الأشخاص السود نسبة غير متكافئة وكبيرة في بيانات الصور الجنائية التي يستخدمها نظام التعرف على الوجوه لإجراء التنبؤات، مما يفسر كيف أن الأمريكيين السود أكثر عرضة من الأمريكيين البيض للوقوع في فخ دورات وأنظمة المراقبة والأعمال الشرطية العنصرية.

يتردد صدى هذا الرأي في تقرير صادر عن مشروع مراقبة تكنولوجيا التجسس (S.T.O.P.). كما تعد المملكة المتحدة والصين من بين الدول التي تمارس “الشرطة التنبؤية”. ويصف أحد الباحثين المتخصصين في الشأن الصيني هذا الأمر بأنه “أداة أكثر دقة للقمع الانتقائي للمجموعات المستهدفة بالفعل من قبل الشرطة، ولا يقلل من الجريمة أو يزيد من الأمن العام بشكل كبير”. إذن، القضية هنا لا تتعلق ببساطة بمجموعات بيانات معيبة؛ بل بالتمييز الموجود بالفعل في المجتمع، حيث يمكن للأشخاص الذين يمتلكون مناصب السلطة أو قوات الشرطة والجيش استخدام التكنولوجيا لتعزيز قمعهم لمجموعات معينة من الناس. ولن تُعالج مجموعات البيانات الأكبر أو تلغي مشكلة الأفراد الذين يتصرفون بناءً على التمييز أو العنصرية أو غيرها من أشكال التحيز والكراهية.

يتم إنشاء الخوارزميات بواسطة البشر (الذين لديهم بطبيعة الحال تحيزاتهم الخاصة) وتُطوّر باستخدام بياناتنا. يمكن استخدام الأدوات المدربة على بياناتنا لإلحاق الضرر بأشخاص آخرين. كما تُستخدم الخوارزميات من قبل الحكومات، وسلطات إنفاذ القانون، ووكالات أخرى في جميع أنحاء العالم. فقد تم استخدام أدوات وخدمات من شركات جوجل، وأمازون، ومايكروسوفت بأكملها من قبل إسرائيل في حربها على غزة. وفي الولايات المتحدة، استُخدمت الخوارزميات لتسجيل مستويات المخاطر للأفراد الذين ارتكبوا جرائم، وتقييم احتمالية ارتكابهم لجرائم في المستقبل. لكن الباحثين وجدوا أن هذه الخوارزميات “غير موثوقة بشكل لافت للنظر” وتتضمن قدرًا كبيرًا من التحيز في تصميمها وتنفيذها.

في إسبانيا، استُخدمت خوارزمية للتنبؤ بمدى احتمالية تعرض ضحية العنف المنزلي للإساءة مرة أخرى، بهدف توزيع الدعم والموارد على الأشخاص الأكثر احتياجًا لها، في ظل نظام مثقل بالأعباء. لكن الخوارزمية ليست مثالية، والاعتماد المفرط على مثل هذه الأدوات المعيبة في مواقف بالغة الأهمية أدى إلى عواقب وخيمة. ففي بعض الحالات، قُتلت ضحايا ناجيات صُنفن خطأً على أنهن “منخفضات المخاطر” على أيدي المعتدين عليهن، رغم بذلهن قصارى جهدهن لطلب المساعدة والإبلاغ عن الانتهاكات للسلطات.

في هولندا، استخدمت السلطات الضريبية خوارزمية لمساعدتها في تحديد الاحتيال في إعانات رعاية الأطفال، حيث تمت معاقبة عشرات الآلاف من الأسر ذات الدخل المنخفض، مما أدى إلى وقوع العديد منهم في براثن الفقر، بل وتم وضع أكثر من ألف طفل في دور الرعاية البديلة عن طريق الخطأ. “لقد تم اعتبار الجنسية المزدوجة كمؤشر خطر كبير، وكذلك الدخل المنخفض [… و] كان التركيز خاصًا على حاملي الجنسية التركية أو المغربية“.

إسرائيل تراقب الفلسطينيين وتقمعهم

تحظى صناعة المراقبة الإسرائيلية بشهرة عالمية. وقد رسم تقرير صدر عام 2023 عن منظمة العفو الدولية خريطة لنظام المراقبة الإسرائيلي المرئي، ووجد كاميرا أو كاميرتين للمراقبة التلفزيونية المغلقة كل خمسة أمتار في البلدة القديمة بالقدس وحي الشيخ جراح في القدس الشرقية.

منذ عام 2020، بدأ استخدام نظام “مجموعة الذئاب” (Wolf Pack) الذي يديره الجيش الإسرائيلي؛ وهو عبارة عن قاعدة بيانات ضخمة ومفصلة تُصنف جميع الفلسطينيين في الضفة الغربية تقريبًا، بما في ذلك صورهم، وعلاقاتهم الأسرية، ومستوى تعليمهم، وغير ذلك. تتضمن “مجموعة الذئاب” أدوات “الذئب الأحمر”، و”الذئب الأبيض”، و”الذئب الأزرق”:

• الذئب الأحمر (Red Wolf): يُعد نظام “الذئب الأحمر” جزءًا من البنية التحتية الرسمية لتقنية التعرف على الوجوه عبر كاميرات المراقبة التابعة للحكومة الإسرائيلية، لتحديد وتصنيف الفلسطينيين أثناء مرورهم عبر نقاط التفتيش وتنقلهم في المدن. وقد أُفيد بأن الجيش الإسرائيلي يستخدم “الذئب الأحمر” في مدينة الخليل الفلسطينية. ووفقًا لمشروع منظمة بتسيلم (B’Tselem) وكسر الصمت (Breaking the Silence)، أقام الجيش الإسرائيلي 86 نقطة تفتيش وحاجزًا عبر 20 بالمئة من مدينة الخليل، يُشار إليها بـ “H2″، وهي خاضعة لسيطرة الجيش الإسرائيلي. من الصعب تجنب نقاط التفتيش في منطقة “H2″. وكما كتبت ماشا جيسين، فإن الفلسطينيين الذين يعيشون هناك “يمرون عبر نقطة تفتيش لشراء البقالة، ويمرون بها مرة أخرى لإحضارها إلى المنزل”. ووفقًا للأونروا، يعبر 88 بالمئة من الأطفال نقاط التفتيش في طريقهم من وإلى المدرسة.
• الذئب الأبيض (White Wolf): هناك تطبيق آخر يُدعى “الذئب الأبيض” متاح لأفراد الجيش الإسرائيلي الرسميين الذين يحرسون المستوطنات غير القانونية في الضفة الغربية، مما يتيح لهم البحث في قاعدة بيانات الفلسطينيين. ومنذ بدء الحرب الإسرائيلية على غزة في أعقاب هجمات 7 أكتوبر/تشرين الأول 2023 التي شنتها حركة المقاومة الإسلامية (حماس) على الإسرائيليين، طرحت إسرائيل سجلًا مشابهًا لنظام التعرف على الوجوه للفلسطينيين في غزة.
• الذئب الأزرق (Blue Wolf): باستخدام تطبيق يُدعى “الذئب الأزرق”، ينفذ الجيش الإسرائيلي تسجيلًا بيومتريًا واسع النطاق للفلسطينيين، غالبًا عند نقاط التفتيش وتحت تهديد السلاح، وأحيانًا في منازل الأشخاص الخاصة في منتصف الليل. يلتقط الجنود الإسرائيليون صورًا للفلسطينيين، بمن فيهم الأطفال، أحيانًا بالقوة. كما يدوّن الجنود الإسرائيليون داخل التطبيق أي “انطباعات سلبية [لديهم] عن سلوك الفلسطينيين عند مواجهتهم”. وأضاف أحد المصادر: “الأمر ليس أن الجيش قال، دعونا نصنع ‘الذئب الأزرق’ حتى يتمكن [الفلسطينيون] من المرور بسهولة أكبر. بل إن الجيش يريد إدخال الناس في نظامه من أجل السيطرة”.

كما كشف مقال نُشر في عام 2025 كيف كان الجيش الإسرائيلي يستخدم نموذجًا لغويًا كبيرًا (مثل ذلك المستخدم في أدوات مثل ChatGPT) لمراقبة الفلسطينيين. وصرّح مصدر في الاستخبارات الإسرائيلية قائلًا: “لدي المزيد من الأدوات لمعرفة ما يفعله كل شخص في الضفة الغربية. عندما تمتلك هذا الكم الهائل من البيانات، يمكنك توجيهها نحو أي غرض تختاره”. ورغم أن الجيش الإسرائيلي ليس المثال الوحيد المدعوم حكوميًا لتدريب أدوات الذكاء الاصطناعي على بيانات المدنيين، إلا أنه يقدم نظرة مهمة حول كيفية تبني أحدث التقنيات لغرض المراقبة والتحكم على نطاق واسع.

كما قال الباحث كارلوس ديلكلوس: “لا يتم انتهاك الخصوصية فحسب؛ بل يتم طمسها، حيث تتجزأ حياة البشر إلى مجموعات بيانات مُحسَّنة لتحقيق مكاسب للشركات”، ويمكن توسيع هذه الرسالة لتشمل المكاسب السياسية. وبغض النظر عما إذا كنا نطلق على التكنولوجيا مصطلحات إيجابية أو سلبية، ففي نهاية المطاف، لا يمكن فصل التكنولوجيا نفسها عن المشغلين (أي البشر) الذين يستخدمونها. إذا كان الأشخاص الذين يستخدمون هذه التقنيات يعيشون أيضًا في مجتمعات ويعملون ضمن أنظمة تعاني من مخاوف موثقة بشأن التمييز أو السيطرة، فمن المحتمل جدًا أن تُستخدم هذه التكنولوجيا لإحداث الضرر. نحن لسنا بحاجة حتى إلى تخيل ذلك؛ يمكننا ببساطة أن ننظر حولنا بعيون مفتوحة.