صورة من كانفا بواسطة جلوبال فويسز.

هذا المقال جزء من سلسلة “في دائرة الضوء” من جلوبال فويسز لشهر أبريل/نيسان 2026، بعنوان وجهات نظر بشرية حول الذكاء الاصطناعي. تقدم هذه السلسلة نظرة متعمقة حول كيفية استخدام الذكاء الاصطناعي في بلدان الأغلبية العالمية، وكيف يؤثر استخدامه وتطبيقه على المجتمعات المحلية، وما قد تعنيه تجربة الذكاء الاصطناعي هذه للأجيال القادمة، وغيرها. يمكنك دعم هذه التغطية بالتبرع هنا.

في نوفمبر/ تشرين الثاني 2023، أبلغت مجموعة من أولياء الأمور في إحدى المدارس بريو دي جانيرو الشرطة بأن مراهقين كانوا يصنعون ويشاركون صورًا عارية باستخدام الذكاء الاصطناعي (AI) تظهر زملاء آخرين في الفصل. بعد أقل من عام، في سبتمبر/ أيلول 2024، في ولاية باهيا، اشتُبه أيضًا في قيام مجموعة أخرى من المراهقين باستخدام الذكاء الاصطناعي لإنشاء صور إباحية لزملاء آخرين في الفصل، بينما فُصل طلاب في ولاية ماتو غروسو، بعد مشاركتهم صورًا باستخدام الذكاء الاصطناعي تظهر أحد المعلمين وطلابًا آخرين في مجتمعات إباحية على وسائل التواصل الاجتماعي.

هذه، بعض الحالات المبلغ عنها مؤخرًا في وسائل الإعلام البرازيلية، والتي ورد ذكرها في مذكرة فنية نشرها مركز الأبحاث المستقل «إنترنت لاب» في أوائل أبريل/نيسان 2026. تهدف هذه الوثيقة لمناقشة “سبل مكافحة العنف عبر الإنترنت ضد الفتيات والنساء في البرازيل”، وتقديم توصيات بشأن إجراء مناقشات تنظيمية في السياق المحلي للبلاد.

وفقًا لمنتدى الأمن العام البرازيلي، سجلت البرازيل في عام 2025 وحده 1568 جريمة قتل ضد النساء، بزيادة قدرها 4.7 في المائة مقارنة بالعام السابق، أعلى رقم مسجل منذ القانون الذي أطلق هذا الاسم على هذا النوع من الجرائم قبل 10 أعوام. أدى ارتفاع عدد حالات العنف القائم على النوع الاجتماعي التي تم الإبلاغ عنها في الأخبار إلى اندلاع احتجاجات في نهاية عام 2025. كما أن تزايد المحتوى المعادي للمرأة على الإنترنت “يغذي العنف”، وفقًا لتقرير «دويتشه فيله».

حسب كلاريس تافاريس، مديرة الأبحاث في “إنترنت لاب” وأحد مؤلفي المذكرة الفنية، التي تحدثت إلى جلوبال فويسز، فإن حالات العنف القائم على النوع الاجتماعي، سواء عبر الإنترنت أو في الحياة الواقعية، تشكل جميعها جزءًا من نفس البنية المعادية للمرأة، حيث تتعايش هذه الحالات وتترابط فيما بينها. وتقول في تحليلها: “نمر بمرحلة معقدة تتزايد فيها حالات العنف ضد المرأة، ونحتاج إلى سياسات عامة تراعي هذه السياقات بخصوصياتها”.

في سياق الحديث عن الذكاء الاصطناعي وقضايا النوع الاجتماعي، تشير تافاريس إلى أن قواعد البيانات المستخدمة لتغذية المنصات قد تكون متحيزة، وبالتالي تؤثر على نتائجها. وتوضح أن “إنترنت لاب” اختارت في المذكرة الفنية التركيز على العنف المرتبط بالذكاء الاصطناعي، وذلك بسبب تأثيره الأوسع نطاقاً وإمكانية معالجته من خلال التنظيم المناسب.

يشير تقرير “إنترنت لاب” للمخاطر المرتبطة بالمحتوى الجنسي المزيف (Deep fake) غير التوافقي، ويؤكد على ضرورة تصنيف احتمال حدوث ذلك كونه “خطر مفرط”، مشيرًا إلى أن “هذه التقنيات تؤثر على النساء والفتيات بشكل غير متناسب”:

A research conducted by Security Hero showed that sexually explicit deepfakes represent 98 percent of all deepfake videos online, and that 99 percent of the people targeted with this type of content are women. The study also indicated an increase of 464 percent in sexual deepfakes between 2022 and 2023

أظهرت دراسة أجرتها شركة “سيكيوريتي هيرو“، تمثل مقاطع الفيديو المزيفة الحاوية على محتوى جنسي صريح 98 في المائة من إجمالي مقاطع الفيديو المزيفة المتداولة عبر الإنترنت، وأن 99 في المائة من الأشخاص المستهدفين بهذا النوع من المحتوى هم من النساء. كما أشارت الدراسة إلى زيادة بنسبة 464 في المائة في مقاطع الفيديو المزيفة ذات الطابع الجنسي بين عامي 2022 و2023.

على الرغم من أن تافاريس تشير إلى أن هذه المشكلات لا تقتصر على منصة واحدة، إلا أنها تصف «غروك» (Grok)، نظام الذكاء الاصطناعي المدمج في منصة «إكس» (X)، بأنه «غيض من فيض»، كاشفةً عن مشكلة أوسع نطاقًا انتشرت بالفعل عبر الإنترنت.

I think this case calls for attention, since the AI that made it possible to create this sort of content was already part of its own social media, which helped to amplify the reach of such content. It was very much on the surface. I think it's a systemic issue, but Grok’s case made it impossible not to discuss it or worry about the current state of things. It was evident there had been several flaws in the tools and the platforms that allowed these things to happen on such a large scale.

أعتقد أن هذه الحالة تستدعي الاهتمام، لأن الذكاء الاصطناعي الذي أتاح إنتاج هذا النوع من المحتوى كان بالفعل جزءًا من منصات التواصل الاجتماعي نفسها، مما ساعد على توسيع نطاق انتشار هذا المحتوى. كان الأمر واضحًا للغاية. أعتقد أنها مشكلة نظامية، لكن قضية «غروك» جعلت من المستحيل عدم مناقشتها أو عدم القلق بشأن الوضع الحالي للأمور. كان من الواضح أن هناك عدة عيوب في الأدوات والمنصات التي سمحت بحدوث هذه الأمور على نطاق واسع إلى هذا الحد.

ما الذي ينص عليه القانون في البرازيل؟

شهدت البرازيل خلال العقد الماضي تطورات في التشريعات المتعلقة بالحقوق على الإنترنت. في العام الماضي، بعد مرور 11 عامًا على توقيع “قانون ماركو سيفيل دا إنترنت” — وهو مشروع قانون يُشكل إطارًا برازيليًّا للحقوق المدنية على الانترنت  — صوّتت المحكمة العليا الاتحادية على اعتبار إحدى بنوده غير دستورية جزئيًّا. تناولت المادة 19 المسؤولية المدنية للمنصات عن المحتوى الذي ينشره أطراف ثالثة (المستخدمون). ورأت غالبية القضاة أن هذه المادة، في ظل الوضع الحالي، لا تكفي لحماية الحقوق الأساسية والديمقراطية.

”لا يزال أمامنا طريق طويل لفهم كيفية تطبيق هذا الحكم عمليًّا. فقد وضع النظام الجديد المتعلق بمسؤولية المنصات قواعد تحدد كيفية عملها إلى أن يتم إقرار تشريع تنظيمي أكثر صرامة. وأصبحت على المنصات الآن التزامات أكبر فيما يتعلق بمراقبة المحتوى، لذا فإن هذا الحكم يضع نموذجًا جديدًا يدفعنا إلى التفكير في مسألة مساءلة المنصات والتزاماتها“، كما تقول تافاريس.

وفي سياق العنف القائم على النوع الاجتماعي عبر الإنترنت، تؤكد أيضًا على أهمية وجود تعريف ومفهوم قانونيين لما يُفهم على أنه كراهية للنساء، من أجل تفعيل قرار المحكمة العليا. توضح قائلةً: «نريد تكييف هذا القرار مع السياسات العامة والتشريعات القائمة بالفعل المتعلقة بالعنف القائم على النوع الاجتماعي، لتتناسب مع هذا السيناريو الجديد للعنف الرقمي».

يشير تحليل «إنترنت لاب» إلى ارتفاع في عدد مشاريع القوانين المقترحة التي تهدف إلى تجريم السلوك المعادي للمرأة وما يُعرف «حركة الحبة الحمراء» و«مانوسفير»، لكنه يلاحظ أنه على الرغم من أن هذه المشاريع تمثل خطوة مهمة لمواجهة المشكلة، فإن اختيار التجريم كحل رئيسي ووحيد قد يحد من فعالية الاستراتيجيات الرامية إلى الوقاية وتقديم التعويضات للضحايا.

وتشمل توصياتهم المتعلقة بالذكاء الاصطناعي، على سبيل المثال، وضع مبادئ توجيهية للمناهج الدراسية حول الثقافة الرقمية بهدف تنمية القدرة على التحليل النقدي لكيفية عمل الخوارزميات والمنصات وأدوات الذكاء الاصطناعي وعناصر النظام البيئي الرقمي الأخرى.

أما بالنسبة للمنصات، فتوصي المذكرة باعتماد تدابير أمان منذ المراحل الأولى لتصميم مشاريعها (السلامة من خلال التصميم)، “لمنع إنتاج ونشر هذا النوع من المحتوى” المستهدف بشكل أساسي النساء والأطفال كضحايا. ينبغي اعتبار المحتوى الجنسي المزيف الذي يتم إنتاجه باستخدام تقنية “التزييف العميق” دون موافقة الأطراف المعنية “خطر مفرط”، مع حظر استخدامه وتطبيقه، كما ينبغي وضع قواعد تتعلق بالمساءلة والالتزامات التي تقع على عاتق المنصات الرقمية وعوامل الذكاء الاصطناعي.

يشير تقدير صادر عن مؤسسة «موفيمبر» (Movember Foundation)، وهي منظمة معنية بصحة الرجال، إلى أن ثلثي الشباب يتفاعلون بانتظام مع المؤثرين الذين يروجون لمفاهيم الذكورة عبر الإنترنت. ويذكر مقال نشرته هيئة الأمم المتحدة للمرأة أن “الخبراء يجدون أن انتشار اللغة المتطرفة في أوساط الرجال لا يقتصر على تطبيع العنف ضد النساء والفتيات فحسب، بل يرتبط بشكل متزايد بالتطرف والأيديولوجيات المتطرفة”.

مع اقتراب موسم الانتخابات في البرازيل، وفي ظل ورود تقارير عن مقاطع فيديو تم إنتاجها باستخدام الذكاء الاصطناعي وتُظهر أعمال عنف ضد الناخبات، ترى تافاريس أن هناك جوانب جديدة يجب أخذها في الاعتبار عند التفكير في العنف السياسي القائم على النوع الاجتماعي في الوقت الحالي. “مع إنتاج مقاطع الفيديو أو حتى روبوتات الدردشة مثل جيميني (Gemini) أو تشات جي بي تي (ChatGPT) أو كلود (Claude)، ما نلاحظه هو استخدام [الذكاء الاصطناعي] كأداة للوصول إلى المعلومات، وقد تنطوي هذه الأدوات على تحيزات جنسانية، مما يؤدي إلى تكرار العنف الجنساني والعنف السياسي القائم على النوع الاجتماعي. وما زلنا نحاول تحديد التأثير الذي يمكن أن يحدثه هذا الأمر وسيحدثه من الآن فصاعدًا”.