يصدر Google Play محظورات جديدة للذكاء الاصطناعي للتطبيقات

تضع إرشادات Google Play الجديدة قيودًا على تطبيقات الذكاء الاصطناعي التوليدية التي تقدم أدوات مشكوك فيها، مثل تطبيقات “التعري” العميقة وتلك التي تنتج محتوى رسوميًا.

توجه سياسة متجر التطبيقات المحدثة، التي تم الإعلان عنها يوم الخميس، تطبيقات الذكاء الاصطناعي ومطوريها إلى اتخاذ احتياطات ضد المحتوى المسيء، “بما في ذلك المحتوى المحظور المدرج ضمن سياسات المحتوى غير المناسب في Google Play، والمحتوى الذي قد يستغل الأطفال أو يسيء إليهم، والمحتوى الذي يمكن أن يخدع الأطفال”. المستخدمين أو تمكين السلوكيات غير النزيهة.”

يجب على المطورين أيضًا تقديم آليات الإبلاغ والإبلاغ داخل التطبيق للمستخدمين الذين يعثرون على محتوى غير لائق و”اختبار صارم” لنماذج الذكاء الاصطناعي الخاصة بهم. تك كرانش ذكرت.

تنطبق القواعد على التطبيقات التي تنتج محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي في “أي مجموعة من الإدخال الفوري للنص والصوت والصورة”. يتضمن ذلك برامج الدردشة الآلية ومولدات الصور وتطبيقات انتحال الصوت باستخدام الذكاء الاصطناعي التوليدي. ولا تنطبق السياسات على التطبيقات التي “تستضيف فقط” محتوى الذكاء الاصطناعي أو تلك التي تحتوي على “أدوات إنتاجية” للذكاء الاصطناعي، مثل تلخيص الميزات.

في شهر مايو، أعلنت جوجل أنها ستخفض قيمة النتائج الإباحية التي ينتجها الذكاء الاصطناعي (أو “الاصطناعية”) في تصنيفات البحث الداخلية الخاصة بها، في محاولة لمعالجة مشكلة متنامية تتعلق بالمواد الإباحية غير التوافقية والمزيفة بعمق. كما حظرت الشركة أيضًا الإعلان عن مواقع الويب التي تنشئ أو تدعم أو تقارن المواد الإباحية العميقة.

جاءت هذه الخطوة بعد موجة من التزييف العميق الفيروسي الذي يركز على المشاهير والذي تم تداوله على منصات X وMeta، بما في ذلك الإعلانات الرسومية لتطبيق تعرٍ يعمل بالذكاء الاصطناعي والذي يضم صورًا دون السن القانونية للممثلة جينا أورتيجا. كانت جوجل تتلقى بالفعل آلاف الشكاوى من ضحايا التزييف العميق الجنسي غير الرضائي، وقد قدم الكثير منهم قانون حقوق الطبع والنشر للوسائط الرقمية (DMCA) مطالبات ضد مواقع الويب التي تنشر صورها.

أصدر المطلعون على صناعة الذكاء الاصطناعي تحذيرات متعددة حول تهديد المعلومات المضللة والاستخدام غير التوافقي لأشكال الأشخاص، بما في ذلك رسالة مفتوحة حديثة صاغها موظفو OpenAI وGoogle DeepMind. وأشارت المجموعة إلى الخطر المحتمل المتمثل في “التلاعب والتضليل” في حالة استمرار تطورات الذكاء الاصطناعي دون تنظيم.

تتبع لوائح متجر تطبيقات Google توجيهات البيت الأبيض بشأن الذكاء الاصطناعي الصادرة لشركات التكنولوجيا الشهر الماضي. ودعا الإعلان قادة الصناعة إلى بذل المزيد من الجهد لمنع انتشار التزييف العميق، مع استجابة جوجل على وجه التحديد لدعوة للحد من التطبيقات التي “تنشئ أو تسهل أو تستثمر أو تنشر الاعتداء الجنسي على الصور”. إذا كنت ضحية لإساءة استخدام التزييف العميق، فهناك خطوات يمكنك اتخاذها؛ اقرأ المزيد حول كيفية الحصول على الدعم.