صورة من عمل جعفر صفتلي لمنصة UntoldMag، مصرح باستخدامها.

كتبت ميلاغروس ميشيل هذا المنشور ونشرته منصة UntoldMag للمرة الأولى في 4 أبريل/نيسان 2024. أُعيد نشر هذه النسخة المحررة على جلوبال فويسز كجزء من اتفاقية مشاركة المحتوى.

قابلت فاطمة في يونيو/حزيران 2019 في العاصمة البلغارية، صوفيا. قبل أربعة أعوام، في ربيعها السابع عشر، أُجبِرت فاطمة وسائر أفراد أسرتها على ترك منزلهم الكائن في حلب، حتى وصلوا إلى فنلندا عبر صوفيا.

تعهد المهربين بتوفير منزل وسيارة في فنلندا مقابل 9 آلاف يورو (9477 دولار أمريكي)، لكنهم لم يوفوا بذلك. عوضًا عن ذلك، رُحِّلَت عائلة فاطمة بعد ستة أشهر إلى بلغاريا لأن “بصماتهم سُجِّلت في صوفيا أولًا”.

تعيش فاطمة، 21 عامًا الآن، مع عائلتها في مخيم للاجئين في العاصمة البلغارية. بينما تعاون والدها في صالون الشعر في المخيم، عملت فاطمة أيضًا بدوامٍ جزئي لصالح شركة تصنيف بيانات حيثُ كنتُ أقوم بعملٍ ميداني. عينتها الشركة في مخيم اللاجئين.

مبدئيًا، خلال حوارنا، كانت في مكتب الشركة، تجلس بجوار ديانا، طالبة لجوء سورية أخرى كانت تعمل على تصنيف صور أناس بناءً على العرق، والسن، والجنس.

فيما انهمكت فاطمة بالعمل في مشروع ينطوي على صور الأقمار الصناعية وتجزئة الصور، عملية مهمة للرؤية الحاسوبية تضم تقسيمًا وتصنيفًا دقيقًا لكل بيسكل في صورة. يعد هذا النوع من العمل على البيانات ذو أهمية بالغة لتوليد بيانات تدريبية للذكاء الاصطناعي، لا سيما أنظمة رؤية الحاسب المدمجة في أجهزة مثل الكاميرات، والطائرات بدون طيار، والأسلحة.

أوضحت فاطمة أن مهمتها تمثلت بشكلٍ رئيسي على فصل “الأشجار عن الشجيرات وفصل السيارات عن الناس، والطرق، والمباني”. بعد عملية التجزئة، ستُرفِق مسميات مناسبة لتصنيف كل موضوع.

امتلاك المهارات ضروري للعمل على البيانات

قد يبدو عملًا بسيطًا ومباشرًا عند صياغته بهذا الشكل. تندرج مثل هذه المهام تحت ما يُعرف باسم العمل المصغر، أو النقر، أو كما أشير إليه، عمل البيانات. يمثل ذلك العمل المنطوي على توليد البيانات لتدريب أنظمة الذكاء الاصطناعي والتحقق من صحتها.

وفقًا للبنك الدولي، هنالك ما بين 154 و435 مليون عامل بيانات عالميًا، الكثير منهم تم تعيينهم أو مهاجرين من الأغلبية العالمية. غالبًا ما يعملون في منصات الاستعانة بمصادر خارجية أو الشركات، كعامل مستقل بشكل رئيسي، مقابل بضعة سنتات لكل قطعة أو مهمة دون تدابير حماية العمالة مثل الإجازة المرضية المدفوعة الأجر الشائعة في علاقات العمل الأكثر تقليدية.

يولِّد العمال، البيانات بطرق مختلفة تتنوع بين تجريف الويب وتسجيل أصواتهم أو رفع الصور الشخصية. كما هو الحال مع فاطمة، عادةً ما يُكلفون بمهمات التصنيف. إضافة لذلك، قد يساهم عمال البيانات في الإشراف على الخوارزميات، كتقييم نتائج أنظمة التوصيات على منصات مثل نتفلكس أو سبوتفاي وتقييم مدى فعاليتها، وملاءمتها، وضررها.

على سبيل المثال، في حالات أخرى، قد يُكلَّف عمال البيانات بانتحال صفة أنظمة الذكاء الاصطناعي غير الموجودة صراحةً وأمرهم بالتفكير مثل “الآلة” فيما يتظاهرون بأنهم روبوت محادثة. رغم دوره الهام في تطوير واستمرارية تقنيات الذكاء الاصطناعي، غالبًا ما يقلل من شأن عمل البيانات باعتباره بسيطًا وتافهًا، لاستلزامه بضع نقرات فقط، ويوصف بالعمل الذي يتطلب مهارات منخفضة أو عمالة غير ماهرة.

سألت فاطمة ما إن كانت صور الأقمار الصناعية التي عملت عليها لسوريا؛ فقالت بأنه تبادر إليها أن المعمار والمركبات مألوفة الشكل. أتساءل ما إذ تم الاستفادة من نزوحها كخبرة. همست فاطمة، مُحدِّقةً في الشاشة، “آمل أن لا تستخدم في الأسلحة”. لا أنا ولا هي متيقنتان من ذلك.

المعروف والمجهول

شهد انتشار الطائرات دون طيار المستقلة وتقنيات كوكبتها نموًا هائلًا في السنوات الأخيرة بفضل دمج الذكاء الاصطناعي في عمليات الاستطلاع، وتحديد الأهداف، واتخاذ القرار.

يتجسد مثالٌ مؤسف على ذلك في استخدام تقنيات التعرف على الوجه لمراقبة وممارسة الفصل العنصري على الشعب الفلسطيني، في حين لعبت الأسلحة الآلية دورًا حاسمًا في الإبادة الجماعية المستمرة في غزة. تتباهى شركات مثل شركة سمارت شوتر (القناص البارع) الإسرائيلية بقدراتها الفتاكة بشعار “طلقة واحدة، ضربة واحدة”.

تستخدم طائرات المراقبة بدون طيار وتحليلات التنبؤ، وأنظمة التخطيط الاستراتيجي في “توقع التهديدات” ومراقبة المناطق الحدودية. على سبيل المثال، يستخدم المكتب الاتحادي الألماني للهجرة واللاجئين القياسات الحيوية للصور لتحديد الهوية والقياسات الحيوية الصوتية لتحليل اللهجة للتأكد من بلد منشأ طالبي اللجوء وتقييم أهليتهم للحصول على اللجوء. كشف المكتب عن ذلك ردًا على استفسار طرحه نواب ألمان. شارك عمال البيانات المتعاقدين معهم من خلال منصة كليك وركر في إنتاج العينات الصوتية المطلوبة لتطوير النظام.

لحسن الحظ، أوضحت مديرة فاطمة اتباع شركة البيانات في بلغاريا لسياسة صارمة ترفض الطلبات المرتبطة بالتقنيات الحربية.

أضافت أن صور الأقمار الصناعية التي عمل عليها الفريق طُلِبت من شركة أوروبية مركزية لتطوير أنظمة قيادة مستقلة للنقل الجوي وليس الأسلحة. ترتبط هذه المعلومات بموقع العميل الإلكتروني. مع ذلك، ينص الموقع أيضًا على أن تقنيتهم تُستخدم أيضًا للمركبات الجوية غير المأهولة، المعروفة باسم الطائرات بدون طيار، مع تطبيقات تشمل المراقبة.

مخاوف العمال الأخلاقية

تعد انتهاكات الخصوصية واحتمال التنميط التمييزي من بين أكثر الشواغل المتعلقة بأنظمة الذكاء الاصطناعي المطبقة على مراقبة الحدود والحرب وضوحًا. رغم هذه المخاطر التي تؤثر بشكل متفاوت على مجتمعاتهم، أحيانًا مع عواقب مميتة، تُحْجَب المعلومات المتعلقة بالغرض النهائي للبيانات عن العاملين الذين يساهمون في إنتاجها.

الاستعانة بمصادر خارجية لأداء أعمال البيانات للمنظمات الخارجية، التي كثيرًا ما تقع بعيدًا عن “الموقع الجغرافي” لمقدمي الطلب، يُعَقِّد عمل العاملين للتنقل عبر سلاسل التوريد المعقدة التي تدعم صناعة الذكاء الاصطناعي. نادرًا ما تتيح التعليمات المعطاة للعاملين على البيانات تفاصيل حول الغرض من استخدامها أو مقدم الطلب.

غالبًا ما تبرر شركات الذكاء الاصطناعي حاجز السرية كوسيلة لحماية ميزتها التنافسية.

حقيقة إدماج العاملين على البيانات في الهياكل الصناعية المصممة لإبقائهم غير مطلعين، وخاضعين للرقابة، وعرضة للثأر، وسرقة الأجور لا تعني عدم امتلاكهم لمخاوف أخلاقية بشأن عملهم وتطبيقات الذكاء الاصطناعي التي يدعمها.

في الواقع، كانت هناك حالات حذر فيها العاملون على البيانات المستهلكين صراحةً بشأن القضايا المتعلقة بالخصوصية وغيرها من القضايا الأخلاقية المرتبطة بالبيانات التي يولدونها. على سبيل المثال، خلال 2022، أفاد عمال البيانات الفنزويليون بشكل مجهول أن مكانس رومبا الآلية تلتقط صورًا للمستخدمين في المنزل، والتي يتم مشاهدتها بعد ذلك من قبل العمال البشريين.

يتمتع العاملون على البيانات بأفضلية فريدة تمكنهم من لعب دور حاسم في التحديد المبكر للقضايا الأخلاقية المتعلقة بالبيانات والذكاء الاصطناعي. بصورة عامة، لابد من تشجيع المستهلكين والمجتمع على التحالف معهم في الدعوة إلى زيادة الشفافية في مجال إنتاج بيانات الذكاء الاصطناعي.