يكشف التقرير أن Google وApple استضافتا العشرات من تطبيقات التعري

يزعم تحقيق جديد أن متاجر تطبيقات Apple وGoogle استضافت العشرات مما يسمى بتطبيقات الذكاء الاصطناعي “nudify”، على الرغم من انتهاك هذه التطبيقات لقواعد الشركات.

عثر مشروع الشفافية (TTP)، وهو مجموعة تابعة لكلية كينيدي للإدارة الحكومية بجامعة هارفارد، على عشرات التطبيقات في كلا المتجرين التي تزيل الملابس رقميًا، مما يجعل الأشخاص عراة أو شبه عراة. وعثرت على 55 تطبيقًا من هذا القبيل في متجر Google Play و47 في متجر Apple App Store.

كتب تي تي بي:

“لقد تم تنزيل التطبيقات التي حددتها TTP بشكل جماعي أكثر من 705 مليون مرة في جميع أنحاء العالم وحققت إيرادات بقيمة 117 مليون دولار، وفقًا لشركة AppMagic، وهي شركة لتحليل التطبيقات. ونظرًا لأن Google وApple تحصلان على جزء من هذه الإيرادات، فإنهما يستفيدان بشكل مباشر من نشاط هذه التطبيقات.”

استجاب كلا العملاقين التكنولوجيين لتقرير TTP. وقالت شركة آبل لـ CNBC إنها أزالت 28 تطبيقًا تم تحديدها في تقرير TTP، بينما أخبرت جوجل المنفذ أنها “علقت العديد من التطبيقات” بينما أشارت إلى أن تحقيقاتها مستمرة.

ومع ذلك، خلصت TTP إلى أن كلا متجري التطبيقات بحاجة إلى بذل المزيد من الجهد لإيقاف التزييف العميق غير التوافقي.

يشير التقرير إلى أن “نتائج TTP تظهر أن Google وApple فشلا في مواكبة انتشار تطبيقات الذكاء الاصطناعي العميقة التي يمكنها “تعري” الأشخاص دون إذنهم”. “كلاهما شركات يقولون إنهم ملتزمون بسلامة وأمن المستخدمين، لكنهم يستضيفون مجموعة من التطبيقات التي يمكنها تحويل صورة غير ضارة لامرأة إلى صورة مسيئة ذات طابع جنسي.

يأتي تقرير TTP في أعقاب الجدل الدائر حول Elon Musk وXAI’s Grok، والذي يخضع للتحقيق في العديد من البلدان لإنشاء صور جنسية غير موافقة. وجد تحقيق أجرته Mashable أن Grok يفتقر إلى حواجز السلامة الأساسية لمنع التزييف العميق. بالإضافة إلى ذلك، يقول الباحثون إن جروك أنشأ أكثر من 3 ملايين صورة جنسية – بما في ذلك أكثر من 20 ألف صورة يبدو أنها تصور أطفالًا – خلال فترة 11 يومًا بين 29 ديسمبر و8 يناير.

مع بزوغ فجر عصر الذكاء الاصطناعي، ستظل التزييفات الجنسية العميقة تمثل مشكلة رئيسية بالنسبة لشركات التكنولوجيا التي تمضي قدمًا.