قامت Meta بمراقبة منشور حول العلاقات المثلية، لتثبت أن أولوياتها كلها خاطئة

في أبريل، ميتا عكست نفسها بهدوء بعد إزالة منشور على Instagram لتكريم العلاقات السحاقية القديمة في البرازيل. لم تكن المشاركة المحذوفة ذات طبيعة جنسية ولم تحتوي على مواد ضارة بالقاصرين. وثق المنشور المعني لقطة من لحظة في التاريخ حيث أُجبرت المثليات على إخفاء علاقاتهن كـ “زملاء في الغرفة” أو “صديقات غالات” وتم مسح حبهن من السجل العام. ومع ذلك، قامت ميتا بإزالة المحتوى.

واستشهد ميتا بقواعد خطاب الكراهية. مجلس الرقابة اعترف لاحقًا بما كان ينبغي أن يكون واضحًا منذ البداية: كانت حالة البرازيل مثالاً على الإفراط في إنفاذ القانون ضد مجتمع مهمش، مدفوعًا بأنظمة آلية لا تستطيع قراءة السياق، أو اللغة المستصلحة، أو حتى المنشور الكامل نفسه. تمت استعادة المحتوى فقط بعد التدخل الخارجي والدعوة من مجتمع LGBTQ+.

ماشابل 101 المفضل لدى المعجبين: التصويت للمبدع المفضل لديك اليوم!

يتم التعامل مع هذه الحالة الآن على أنها خطأ محدود في الإشراف على المحتوى، لكن يتعين على صناع السياسات أن يدركوا أنها تشير إلى تحذير واضح حول ما يحدث عندما يدفع المشرعون المنصات لمراقبة المحتوى بدلاً من إصلاح التصميم. في جميع أنحاء البلاد، تسارع الولايات إلى “حماية الأطفال عبر الإنترنت” من خلال تقييد الوصول إلى وسائل التواصل الاجتماعي أو الضغط على الشركات لإزالة المحتوى “الضار” المحدد بشكل غامض. ولكن ما حدث في البرازيل يظهر التكلفة البشرية المترتبة على هذا النهج.

عندما يتم تحفيز المنصات لإزالة الكلام بسرعة وعلى نطاق واسع، فإنها لا تصبح أفضل في الحكم على الفروق الدقيقة. وتصبح وسائل التواصل الاجتماعي أداة فظة، وأول الأشخاص الذين يتعرضون للهجوم هم أولئك الذين تتطلب قصصهم سياقًا إنسانيًا وتعاطفًا جذريًا حتى يتم فهمها.

إذا كان المشرعون يريدون حقا حماية الأطفال، فيتعين عليهم أن يتوقفوا عن مطالبة المنصات بتحديد القصص المقبولة والبدء في تنظيم اختيارات التصميم الأساسية التي تسبب الضرر في المقام الأول، مثل التمرير الذي لا نهاية له، والتوصيات القائمة على المشاركة، والموجزات المستندة إلى المراقبة.

هذا هو سبب أهمية هذا التمييز، خاصة بالنسبة لأطفال LGBTQ+ والمجتمعات المهمشة الأخرى، مثل الأطفال المختلفين عصبيًا. من الأرجح أن يعتمد شباب LGBTQ+ على المساحات عبر الإنترنت للعثور على المجتمع أكثر من أقرانهموالمعلومات والدعم، وذلك غالبًا لأن هذه الأشياء غير متوفرة أو غير آمنة في المنزل أو المدرسة. ولكنها أيضا كبيرة على الأرجح لينتهي بهم الأمر في تفاعلات غير آمنة عبر الإنترنت: التحرش، أو الاستمالة، أو الاستقصاء، أو الدفع إلى أماكن عالية الخطورة لم يبحثوا عنها.

في أستراليا، بعد أ حظر وسائل التواصل الاجتماعي على أي شخص أقل من 16 عامًا وقد تم سنه، وأشار المدافعون عن حقوق ذوي الإعاقة إلى ذلك تم عزل الشباب المصابين بالتوحد عن بعض شبكات الدعم والأقران الوحيدة المتاحة لهم.

أنظمة التوصية لا تفهم الضعف، لكنها تفهم المشاركة. عندما يبحث طفل مثلي عن مجتمع، غالبًا ما تستجيب المنصات من خلال تضخيم كل ما يدفعه للنقر بقوة. عادة، يعني هذا المحتوى الجنسي بشكل متزايد، أو الغرباء البالغين، أو الخطاب المتطرف، أو الحسابات المفترسة التي تعرف بالضبط كيفية استغلال العزلة.

التمرير اللانهائي يجعل فك الارتباط أكثر صعوبة بالنسبة للمراهقين، وفقًا لـ مركز معلومات الخصوصية الإلكترونية، وخاصة بالنسبة لأولئك الذين يعيشون في المجتمعات الضعيفة. تؤدي اقتراحات “الصديق” أو “الحساب” الخوارزمية إلى انهيار الحدود الحدية بين المراهقين والبالغين. تجعل الإعدادات الافتراضية الضعيفة من الصعب حظرها أو كتم صوتها أو اختفاءها.

يتعرض الشباب، وليس فقط الشباب من مجتمع LGBTQ+، للأذى عبر الإنترنت لأن المنصات مصممة لجذب الانتباه، وليس لحماية المستخدمين. من حق الآباء أن يشعروا بالقلق وأن يدعوا إلى التغيير. لكن الإطار المبني على المحتوى يغفل المشكلة الحقيقية.

أكبر المخاطر التي يواجهها الأطفال عبر الإنترنت لا تأتي من منشور سيئ واحد يفلت من الإشراف، ولكن من الأنظمة الآلية التي تدفع المحتوى إلى الأطفال الذين لم يطلبوا ذلك، وتربطهم بأشخاص لا يعرفونهم، وتبقيهم يتصفحون الإنترنت لفترة طويلة بعد ظهور علامات التحذير.

ويتعين على صناع السياسات على مستوى الولايات والمستوى الفيدرالي أن يصمموا القواعد التنظيمية التي تعالج هذه المخاطر بشكل مباشر. ولا تخبر رموز التصميم المناسبة للفئة العمرية المنصات بما يجب أن تسمح به من كلام، ولكنها قادرة على إخبار المنصات بكيفية التصرف. تتطلب رموز التصميم إعدادات افتراضية أكثر أمانًا، مثل فرض قيود على التنميط السلوكي، وأدوات حظر أقوى، وتقليل تضخيم التوصيات غير المرغوب فيها، وحواجز الحماية التي تعمل على إبطاء الانتشار والاستخدام القهري.

يجب على الجمهور الدعوة إلى تحسين المنتج، بدلاً من انتهاك حقوق التعديل الأول والرابع. تعمل رموز التصميم على تقليل احتمالية توجيه طفل فضولي أو وحيد إلى منطقة الخطر خوارزميًا، كما حدث معي، حيث كنت أبحث عن المجتمع وأدفعه نحو المخاطرة من خلال أنظمة لم تهتم بمن أكون.

توفر رموز التصميم المناسبة للعمر وسيلة للخروج من هذه الفوضى. ومن خلال تنظيم كيفية بناء المنصات بدلا من تنظيم ما يُسمح للناس بقوله، تعمل قوانين مدونة التصميم على تقليل الضرر دون تحويل الشركات إلى رقابة ثقافية. إنهم لا يحتاجون إلى منصات لتفسير الإهانات المستردة أو تاريخ المثليين أو الخطاب السياسي. وبدلاً من ذلك، ينبغي مطالبة الشركات بالتوقف عن الإدمان الهندسي والمخاطر.

لا نحتاج إلى المزيد من حظر المحتوى أو النظام الأساسي. نحن بحاجة إلى عدد أقل من الأنظمة الضارة. إذا كنا جادين في حماية الأطفال عبر الإنترنت، وخاصة أولئك الأكثر عرضة للخطر، فإن هذه الحالة تذكرنا بالضبط من أين نبدأ.

هذا المقال يعكس رأي الكاتب.

لينون توريس هو مدير الحركة في مبادرة الحرارة والشريك المؤسس لـ The Attention Studio.