أدوات الاختبارات الوصفية لحماية المراهقين من الابتزاز الجنسي والصور العارية غير المرغوب فيها

تقوم Meta باختبار أدوات وميزات جديدة لحماية الشباب من العري غير المرغوب فيه وعمليات الاحتيال الجنسي، بما في ذلك حماية العري في الرسائل المباشرة، وهي ميزة تعمل على طمس الصور العارية تلقائيًا.

يرجع جزء من هذه الحملة إلى أن شركة ميتا تقول إنها تشهد اتجاهًا للابتزاز المالي، حيث يحصل شخص ما على صور عارية من شخص آخر ويقول إنه سينشرها عبر الإنترنت ما لم يرسل الضحية أموالاً أو بطاقات هدايا.

وقالت أنتيجون ديفيس، مديرة السلامة العالمية في شركة ميتا: “إنها جريمة مروعة حقًا تهدف إلى جعل الناس يشعرون بالوحدة والخجل”. قال لشبكة سي إن إن. “لقد تم توثيق الجريمة بشكل جيد، وهذا هو أحد الأسباب التي تجعلنا نرغب في المضي قدمًا والتأكد من أن الناس على دراية بما نقوم به بينما نعمل باستمرار على تطوير أدواتنا.”

ستكون الحماية من العري في الرسائل المباشرة هي الخيار الافتراضي للأشخاص الذين تقل أعمارهم عن 18 عامًا وسيتم تشجيعها لجميع المستخدمين. عندما يحاول المستخدمون الذين قاموا بتشغيل الحماية إرسال صورة تحتوي على عُري، سيتم تذكيرهم بأنه يتعين عليهم توخي الحذر ويمكنهم إلغاء إرسالها في أي وقت. إذا حاول أحد المستخدمين إعادة توجيه صورة عارية، فسيتم تشجيعه على إعادة النظر وأن يكون “مسؤولًا ومحترمًا”. وأخيرًا، عندما يتلقى المستخدم صورة تحتوي على عُري، سيتم تعتيمها تلقائيًا، وسيتم تشجيعه على عدم الشعور بالضغط للرد بالمثل. سيتم أيضًا توجيه الأشخاص إلى نصائح السلامة عند إرسال أو استقبال صور عارية.

“تم تصميم هذه الميزة ليس فقط لحماية الأشخاص من رؤية العري غير المرغوب فيه في رسائلهم المباشرة، ولكن أيضًا لحمايتهم من المحتالين الذين قد يرسلون صورًا عارية لخداع الأشخاص لإرسال صورهم الخاصة في المقابل.” قال ميتا في منشور بالمدونة.

يمكن لـ Meta معرفة ما إذا كانت الصورة تحتوي على عُري بسبب التعلم الآلي على الجهاز، والذي يتضمن حماية التشفير الشامل. لذا، ما لم يختر شخص ما الإبلاغ عن صورة في رسالة مباشرة، تقول Meta إنها لن تتمكن من الوصول إليها.

تضيف Meta أيضًا إلى عملها لوقف الابتزاز الجنسي على تطبيقها من خلال تطوير التكنولوجيا لتحديد الحسابات المشاركة في الابتزاز الجنسي كخطوة احترازية. إذا تم وضع علامة على الحساب على أنه حساب ابتزاز جنسي محتمل، فإن الرسائل المرسلة من هذا الحساب ستنتقل مباشرة إلى مجلد الطلبات المخفية للمستلم. ولن يكون هناك زر “رسالة” في الملف الشخصي للمراهق إذا تم وضع علامة على الحساب باعتباره حساب ابتزاز جنسي محتمل، حتى لو كان متصلاً بالفعل بالمراهق. بالإضافة إلى ذلك، إذا كان شخص ما يتفاعل مع حساب تمت إزالته بسبب الابتزاز الجنسي، فسوف يرى رسالة منبثقة توجهه إلى المزيد من الموارد. أخيرًا، عندما يبلغ المراهقون عن مشكلات ذات صلة، سيتم توجيههم إلى خطوط المساعدة المحلية لسلامة الأطفال.

وقال ميتا: “إن هذا التعاون في الصناعة أمر بالغ الأهمية لأن المحتالين لا يقتصرون على منصة واحدة فقط – وينطبق الشيء نفسه على محتالي الابتزاز الجنسي”. “يستهدف هؤلاء المجرمون الضحايا عبر التطبيقات المختلفة التي يستخدمونها، وغالبًا ما ينقلون محادثاتهم من تطبيق إلى آخر. ولهذا السبب بدأنا في مشاركة المزيد من الإشارات الخاصة بالابتزاز الجنسي مع Lantern، للبناء على هذا التعاون المهم ومحاولة إيقاف عمليات الاحتيال الجنسي. ليس فقط على المنصات الفردية، ولكن عبر الإنترنت بأكمله.”