يزعم أن Meta يحل محل البشر بالني الذكاء لتقييم مخاطر المنتج

وفقًا لمراجعة المستندات الداخلية الجديدة من قبل NPR ، يُزعم أن META تخطط لاستبدال مقيمي المخاطر البشرية بـ AI ، حيث تقترب الشركة من الأتمتة الكاملة.

تاريخياً ، اعتمدت META على المحللين البشريين لتقييم الأضرار المحتملة التي تطرحها تقنيات جديدة عبر منصاتها ، بما في ذلك تحديثات على الخوارزمية وميزات السلامة ، وهي جزء من عملية تعرف باسم مراجعات الخصوصية والنزاهة.

ولكن في المستقبل القريب ، قد يتم الاستيلاء على هذه التقييمات الأساسية من قبل الروبوتات ، حيث تتطلع الشركة إلى أتمتة 90 في المائة من هذا العمل باستخدام الذكاء الاصطناعي.

على الرغم من القول سابقًا أنه سيتم استخدام الذكاء الاصطناعى فقط لتقييم الإصدارات “منخفضة المخاطر” ، إلا أن META تقوم الآن بطرح التقنية في القرارات المتعلقة بسلامة الذكاء الاصطناعى ، ومخاطر الشباب ، والنزاهة ، والتي تشمل المعلومات الخاطئة واعتدال المحتوى العنيف ، وفقًا لما ذكره NPR. بموجب النظام الجديد ، تقدم فرق المنتجات الاستبيانات وتتلقى قرارات وتوصيات فورية للمخاطر ، حيث يتولى المهندسون قدرات أكبر على اتخاذ القرارات.

على الرغم من أن الأتمتة قد تسرع تحديثات التطبيق وإصدارات المطورين بما يتماشى مع أهداف كفاءة META ، إلا أن المطلعين يقولون إنها قد تشكل أيضًا خطرًا أكبر على مليارات المستخدمين ، بما في ذلك التهديدات غير الضرورية لخصوصية البيانات.

في أبريل ، نشر مجلس الإشراف في Meta سلسلة من القرارات التي أثبتت صحة في وقت واحد موقف الشركة من السماح للكلام “المثير للجدل” وتوبيخ عملاق التكنولوجيا لسياسات المعدلات المحتوى.

“نظرًا لأن هذه التغييرات يتم طرحها على مستوى العالم ، يؤكد مجلس الإدارة أنه من الضروري الآن أن يحدد Meta ويعالج الآثار الضارة على حقوق الإنسان التي قد تنجم عنهم” ، كما يقول القرار. “يجب أن يشمل ذلك تقييم ما إذا كان تقليل اعتمادها على الاكتشاف الآلي لانتهاكات السياسة يمكن أن يكون له عواقب غير متساوية على مستوى العالم ، وخاصة في البلدان التي تعاني من الأزمات الحالية أو الحديثة ، مثل النزاعات المسلحة.”

في وقت سابق من ذلك الشهر ، أغلقت Meta برنامجها البشري لفحص الحقائق ، واستبداله بمذكرات المجتمع المصدر من قبل الحشود والاعتماد بشكل كبير على خوارزمية تعرضها للمحتوى-التكنولوجيا الداخلية المعروفة بأنها تفوت وعلم المعلومات الخاطئة بشكل غير صحيح وغيرها من المشاركات التي تنتهك سياسات المحتوى التي تم إصلاحها مؤخرًا.