وضع ChatGPT الصوتي قادر على القيام ببعض الأشياء الغريبة – ولكن إليك كيفية تعامل OpenAI معه.

يحتوي الوضع الصوتي الخاص بـ ChatGPT على بعض العيوب الأمنية، لكن OpenAI تقول إنها تتفوق عليها.

نشرت OpenAI يوم الخميس تقريرًا عن ميزات أمان GPT-4o، يتناول المشكلات المعروفة التي تحدث عند استخدام النموذج. GPT-4o هو النموذج الأساسي الذي يشغل أحدث إصدار من ChatGPT، ويأتي مع الوضع الصوتي الذي تم إصداره مؤخرًا لمجموعة مختارة من المستخدمين من خلال اشتراك ChatGPT Plus.

تشمل “تحديات السلامة” التي تم تحديدها المخاطر القياسية مثل تحفيز النموذج باستجابات مثيرة وعنيفة، ومحتوى آخر غير مسموح به، و”الاستدلال الذي لا أساس له” و”إسناد السمات الحساسة” – وهي افتراضات قد تكون تمييزية أو متحيزة، بمعنى آخر. تقول OpenAI إنها قامت بتدريب النموذج على حظر أي مخرجات تم وضع علامة عليها في هذه الفئات. ومع ذلك، يقول التقرير أيضًا إن عمليات التخفيف لا تشمل “الأصوات غير اللفظية أو المؤثرات الصوتية الأخرى” مثل الأنين المثير والصراخ العنيف وطلقات الرصاص. يمكن للمرء أن يستنتج، إذن، أن المطالبات التي تتضمن بعض الأصوات غير اللفظية الحساسة قد تتلقى استجابة بشكل غير صحيح.

ذكرت OpenAI أيضًا التحديات الفريدة التي تأتي مع التواصل الصوتي مع النموذج. اكتشف الفريق الأحمر أنه قد يُطلب من GPT-4o انتحال شخصية شخص ما أو محاكاة صوت المستخدم عن طريق الخطأ. لمكافحة هذا، يسمح OpenAI فقط بالأصوات المصرح بها مسبقًا (باستثناء صوت سكارليت جوهانسون سيئ السمعة). يستطيع GPT-4o أيضًا التعرف على الأصوات الأخرى إلى جانب صوت المتحدث، مما يمثل مشكلة خطيرة تتعلق بالخصوصية والمراقبة. ولكن تم تدريبه على رفض تلك الطلبات، ما لم تتم مطالبة النموذج باقتباس مشهور.

لاحظ أعضاء الفريق الأحمر أيضًا أنه يمكن مطالبة GPT-4o بالتحدث بشكل مقنع أو مؤكد، وهي ميزة قد تكون أكثر ضررًا من مخرجات النص عندما يتعلق الأمر بالمعلومات المضللة ونظريات المؤامرة.

ومن الجدير بالذكر أن OpenAI عالجت أيضًا مشكلات حقوق الطبع والنشر المحتملة التي ابتليت بها الشركة والتطوير الشامل للذكاء الاصطناعي التوليدي، الذي يتدرب على البيانات المستخرجة من الويب. تم تدريب GPT-4o على رفض طلبات المحتوى المحمي بحقوق الطبع والنشر ولديه مرشحات إضافية لحظر المخرجات التي تحتوي على موسيقى. في هذه الملاحظة، تم توجيه الوضع الصوتي في ChatGPT لعدم الغناء تحت أي ظرف من الظروف.

تم تنفيذ عمليات تخفيف المخاطر العديدة التي قامت بها شركة OpenAI والتي تمت تغطيتها في الوثيقة المطولة قبل إصدار Voice Mode. لذا فإن الرسالة الواضحة للتقرير تقول إنه على الرغم من أن GPT-4o قادر على القيام بسلوكيات محفوفة بالمخاطر، إلا أنه لن يفعل ذلك.

ومع ذلك، تقول OpenAI: “تقيس هذه التقييمات فقط المعرفة السريرية لهذه النماذج، ولا تقيس فائدتها في سير العمل في العالم الحقيقي”. لذلك تم اختباره في بيئة خاضعة للرقابة، ولكن عندما يضع الجمهور أيديهم على GPT-4o، فقد يكون وحشًا مختلفًا عندما يكون في البرية.

تواصلت Mashable مع OpenAI للحصول على مزيد من الوضوح حول عمليات التخفيف هذه، وسيتم تحديثها إذا تلقينا ردًا.