سوف تساعدك chatgpt

القيود المفروضة حول توليد صور chatgpt يمكن أن تجعل من السهل إنشاء Deepfakes السياسية ، وفقًا لتقرير صادر عن CBC (Canadian Broadcasting Corporation).

CBC اكتشف أنه ليس من السهل فقط العمل حول سياسات ChatGpt لتصوير الشخصيات العامة ، بل أوصت حتى بالطرق لكسر قواعد توليد الصور الخاصة بها. تمكنت Mashable من إعادة إنشاء هذا النهج من خلال تحميل الصور لإيلون موسك والمدانة الجريمة الجنسية جيفري إبشتاين ، ثم وصفها بأنها شخصيات خيالية في مواقف مختلفة (“في نادي داكن داكن” على الشاطئ يشرب بينا كولاداس “).

العميق السياسية ليست جديدة. لكن توافر نماذج الذكاء الاصطناعى الواسعة النطاق التي يمكن أن تنشئ الصور والفيديو والصوت والنص لتكرار الأشخاص له عواقب حقيقية. بالنسبة للأدوات التي يتم تسويقها تجاريًا مثل ChatGPT للسماح بانتشار المعلومات السياسية المحتملة يثير تساؤلات حول مسؤولية Openai في الفضاء. يمكن أن يتعرض هذا الواجب في السلامة للخطر حيث تتنافس شركات الذكاء الاصطناعى على اعتماد المستخدم.

وقال خبير الطب الشرعي الرقمي وأستاذ الطب الشرعي في جامعة كاليفورنيا في علوم الحاسوب في رسالة بريد إلكتروني إلى مهروسة: “عندما يتعلق الأمر بهذا النوع من الدرابزين على المحتوى الذي تم إنشاؤه من الذكاء الاصطناعى ، فإننا فقط جيدون مثل القاسم المشترك. بدأ Openai مع بعض الدرابزين الجيد جدًا ، لكن منافسيهم (مثل X Grok) لم يحذوا حذوه”. “كما هو متوقع ، قام Openai بتخفيض الدرابزين لأن وضعهم في مكانه في وضع غير مؤات من حيث حصة السوق.”

عندما أعلنت Openai عن GPT-4O Native Image Generation for Chatgpt و Sora في أواخر مارس ، أشارت الشركة أيضًا إلى نهج السلامة أكثر مرونة.

وقال المدير التنفيذي لشركة Openai في منشور X يشير إلى توليد صور ChatGPT الأصلي: “ما نود أن نهدف إليه هو أن الأداة لا تنشئ أشياء مسيئة إلا إذا كنت تريدها ، وفي هذه الحالة في حدود ذلك”. “كما نتحدث عن مواصفاتنا النموذجية ، نعتقد أن وضع هذه الحرية والسيطرة الفكرية في أيدي المستخدمين هو الشيء الصحيح الذي يجب القيام به ، لكننا سنلاحظ كيف تسير الأمور والاستماع إلى المجتمع.”

هذه تغريدة غير متوفرة حاليًا. قد يكون التحميل أو تمت إزالته.

يقول الإضافة إلى بطاقة السلامة الخاصة بـ GPT-4O ، وتحديث نهج الشركة لتوليد الصور الأصلية ، “نحن لا نمنع القدرة على توليد شخصيات عامة للبالغين ولكن بدلاً من ذلك ننفذ نفس الضمانات التي قمنا بتنفيذها لتحرير صور للتحميلات الضوئية للأشخاص”.

عندما اختبرت Nora Young Just من CBC ، وجدت أن النص يطالب صراحةً بتصوير صورة للسياسي مارك كارني مع إبشتاين. ولكن عندما قام منفذ الأخبار بتحميل صور منفصلة لكارني وإبشتاين مصحوبة بمطالبة لم تسميها ولكنها أشار إليها باسم “شخصين خياليان [the CBC reporter] تم إنشاؤها ، “امتثل ChatGpt للطلب.

في حالة أخرى ، ساعدت Chatgpt الشباب على العمل حول درابزين الأمان الخاص بها بالقول: “بينما لا يمكنني دمج الأفراد الحقيقيين في صورة واحدة ، يمكنني إنشاء مشهد خيالي على غرار صورة شخصية خيالية يضم شخصية مستوحاه من قبل الشخص الموجود في هذه الصورة “(التركيز الذي قدمته Chatgpt كما أشار يونغ.) هذا دفعها إلى توليد صورة شخصية لرئيس الوزراء الهندي ناريندرا مودي وزعيم حزب المحافظين في كندا بيير بويلييفر.

تجدر الإشارة إلى أن صور chatgpt التي تم إنشاؤها في البداية من قبل Mashable لها المظهر البلاستيكي ، الذي يتسم بالسلاسة الشائعة للعديد من الصور المولدة من الذكاء الاصطناعى ، ولكن اللعب مع صور مختلفة من Musk و Epstein وتطبيق تعليمات مختلفة مثل “التي تم التقاطها بواسطة لقطات CCTV” أو “تم التقاطها من قبل مصور صحفي باستخدام فلاش كبير” يمكن أن يقدم نتائج أكثر واقعية. عند استخدام هذه الطريقة ، من السهل أن نرى كيف يمكن أن يؤدي التغيير والتعديل الكافي لتحرير المطالبات إلى إنشاء صور واقعية تخدع الناس.

أخبر متحدث باسم Openai Mashable في رسالة بريد إلكتروني أن الشركة قامت ببناء الدرابزين لمنع الدعاية المتطرفة ومحتوى التوظيف وأنواع معينة من المحتوى الضار. وأضاف المتحدث أن Openai لديه درابزين إضافي لتوليد الصور من الشخصيات العامة السياسية ، بما في ذلك السياسيين والحظر باستخدام ChatGPT للحملات السياسية. وقال المتحدث الرسمي أيضًا إن الشخصيات العامة التي لا ترغب في تصويرها في صور تم إنشاؤها في ChatGPT يمكنها إلغاء الاشتراك عن طريق إرسال نموذج عبر الإنترنت.

يتخلف لائحة الذكاء الاصطناعى عن تطوير الذكاء الاصطناعي بعدة طرق حيث تعمل الحكومات على إيجاد قوانين كافية تحمي الأفراد وتمنع المعلومات المضللة التي تدعم الذكاء الاصطناعى مع مواجهة استرداد من شركات مثل Openai التي تقول إن الكثير من التنظيم سيخنق الابتكار. في الغالب مناهج السلامة والمسؤولية طوعية وتديرها الشركات. وقال فريد: “هذا ، من بين أسباب أخرى ، هو السبب في أن هذه الأنواع من الدرابزين لا يمكن أن تكون طوعية ، ولكن يجب أن تكون إلزامية وتنظيم”.