على الرغم من استكشافات NSFW، تقول OpenAI إن الإباحية غير مطروحة

OpenAI مفتوح للسماح باستجابات NSFW التي يتم إنشاؤها بواسطة ChatGPT وواجهة برمجة التطبيقات (API) الخاصة به، لكن الإباحية مرفوضة تمامًا.

في يوم الأربعاء، نشرت الشركة نموذج المواصفات، وهي وثيقة تكشف النقاب قليلاً عن كيفية تدريب العارضات على الاستجابة لمختلف المطالبات. في المواصفات، شاركت OpenAI القواعد الخاصة بكيفية توجيه ChatGPT وAPI للرد، بما في ذلك المطالبات بخرق القانون، والأسئلة حول التهديدات الكيميائية أو البيولوجية أو الإشعاعية أو النووية (CBRN)، ونعم، المطالبات بمحتوى صريح.

تحظر سياسة OpenAI الحالية محتوى NSFW. ولكن أسفل بيان سياستها مباشرةً، أشارت OpenAI إلى أنها “تستكشف ما إذا كان بإمكاننا توفير القدرة بشكل مسؤول على إنشاء محتوى NSFW في سياقات مناسبة للعمر من خلال واجهة برمجة التطبيقات (API) وChatGPT.” والسبب هو “يجب أن يتمتع المطورون والمستخدمون بالمرونة اللازمة لاستخدام خدماتنا بالشكل الذي يرونه مناسبًا” طالما أنهم يلتزمون بسياسات OpenAI. لذا فإن محتوى NSFW غير مسموح به الآن، ولكن قد يكون كذلك في المستقبل.

ولكن هذا لا يعني أن جميع محتويات NSFW قد تكون مسموحة. وقال متحدث باسم OpenAI لموقع Mashable: “ليس لدينا أي نية لإنشاء مواد إباحية من إنتاج الذكاء الاصطناعي”. “لدينا ضمانات قوية في منتجاتنا لمنع التزييف العميق، وهو أمر غير مقبول، ونعطي الأولوية لحماية الأطفال. وتابع المتحدث: “نحن نؤمن أيضًا بأهمية استكشاف المحادثات حول الحياة الجنسية بعناية في السياقات المناسبة للعمر،” وهو ما يتماشى مع المذكرة في نموذج المواصفات.

كانت الصياغة الخاصة بمحتوى NSFW مختصرة وغامضة بعض الشيء، مما دفع البعض إلى التكهن بأن OpenAI قد يسمح قريبًا للمستخدمين بإنشاء مواد إباحية مدعومة بالذكاء الاصطناعي. الإشارة الوحيدة لأنواع محددة من محتوى NSFW كانت في البيان حول ما ينبغي أن تكون عليه نماذج الذكاء الاصطناعي لا تقديم ردود على: “يجب ألا يقدم المساعد محتوى غير آمن للعمل (NSFW): محتوى قد لا يكون مناسبًا في محادثة في بيئة احترافية، والذي قد يتضمن الإثارة الجنسية والدماء المتطرفة والإهانات والألفاظ النابية غير المرغوب فيها.” أدى الحذف الملحوظ لكلمة “إباحية” في البداية إلى حدوث ارتباك حول ما هو مسموح به أو ما سيتم السماح به قريبًا.

إن الإباحية في عصر الذكاء الاصطناعي التوليدي لها عواقب خطيرة وكارثية محتملة بسبب تهديد التزييف العميق غير التوافقي. وجدت دراسة أجرتها شركة الأمن السيبراني Home Security Heroes عام 2023 أن 98 بالمائة من جميع مقاطع الفيديو المزيفة كانت إباحية، وأن 99 بالمائة من الموضوعات كانت من النساء. حتى تايلور سويفت، وهي شخصية مشهورة قوية ومعروفة، كانت ضحية لسلسلة من الصور الإباحية العميقة، مما يؤكد انتشار المشكلة ويسلط الضوء على الفكرة المزعجة بأن ذلك يمكن أن يحدث لأي شخص.