يقوم OpenAI Sora بتقييد تصوير الأشخاص بسبب مخاوف تتعلق بالسلامة

تعمل OpenAI Sora على الحد من تصوير الأشخاص الحقيقيين واتخاذ إجراءات سلامة صارمة أخرى لمنع سوء الاستخدام.

يتمتع منشئ الفيديو، الذي تم الإعلان عنه يوم الاثنين كجزء من حدث 12 Days of OpenAI، بجميع أنواع إمكانيات التحرير للمستخدمين لإنشاء وتخصيص مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي. ولكن هناك أشياء معينة لا يُسمح لك بفعلها مع Sora، كما اكتشف المستخدمون قريبًا.

ربما تم حذف التغريدة

وفقًا لبطاقة النظام الخاصة بها، “ستكون القدرة على تحميل صور الأشخاص متاحة لمجموعة فرعية من المستخدمين”، مما يعني أن معظم المستخدمين لا يمكنهم إنشاء مقاطع فيديو لأشخاص بناءً على صورة تم تحميلها. هؤلاء المستخدمون هم جزء من “تجربة التشابه” التي يختبرها OpenAI مع عدد قليل مختار. وقال متحدث باسم OpenAI إن مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي للأشخاص محدودة من أجل “معالجة المخاوف بشأن اختلاس الصور المشابهة والتزييف العميق”. وتابع المتحدث أن OpenAI “ستراقب بشكل نشط أنماط سوء الاستخدام، وعندما نجدها، سنزيل المحتوى، ونتخذ الإجراء المناسب مع المستخدمين، ونستخدم هذه الدروس المبكرة لتكرار نهجنا فيما يتعلق بالسلامة”.

إن الحد من تصوير الأشخاص في مقاطع فيديو Sora أمر منطقي من وجهة نظر المسؤولية. هناك كل أنواع الطرق التي يمكن من خلالها إساءة استخدام الأداة: التزييف العميق غير التوافقي، وتصوير القُصّر، وعمليات الاحتيال، والمعلومات المضللة على سبيل المثال لا الحصر. ولمواجهة ذلك، تم تدريب Sora على رفض طلبات معينة من المطالبات النصية أو تحميلات الصور.

سيتم رفض المطالبات الخاصة بمحتوى NSFW (غير آمن للعمل) وNCII (الصور الحميمة غير التوافقية) وإنشاء أطفال واقعيين، على الرغم من السماح بالصور الوهمية. أضافت OpenAI بيانات تعريف C2PA إلى جميع مقاطع فيديو Sora وجعلت علامة مائية مرئية هي العلامة الافتراضية، على الرغم من إمكانية إزالتها، ونفذت بحثًا داخليًا عكسيًا عن الصور لتقييم مصدر الفيديو.

على الرغم من حقيقة أنه تم وضع العديد من حواجز الحماية لمنع سوء الاستخدام، فإن السؤال حول كيفية استجابة سورا لاختبارات الإجهاد الجماعية يظل قائمًا. حاليًا، الوصول إلى Sora غير متاح بسبب ارتفاع الطلب.