أغلقت نماذج منظمة العفو الدولية من Google 39 مليون معلن احتيالي

أدى استخدام Google للمنظمة العفوية لمكافحة الإعلانات الضارة إلى تعليق 39.2 مليون حساب احتيالي.

في يوم الأربعاء ، نشرت شركة Tech Giant تقرير أمان ADS لعام 2024 ، مما أبرز استخدامه لـ LLMS المتقدمة (نماذج لغة كبيرة) لاكتشاف وإنفاذ الاحتيال. منذ عام 2023 ، أضافت Google “50 تحسينًا” إلى LLMs لها “لا تحتاج إلا إلى جزء صغير من النماذج السابقة اللازمة للتعرف بسرعة على التهديدات الناشئة ، وتحديد أنماط سوء المعاملة ، وتمييز الشركات المشروعة عن عمليات الاحتيال.” تشمل مؤشرات الإساءة التي يمكن اكتشافها بواسطة أداة الذكاء الاصطناعى من Google انتحال شخصية وتفاصيل الدفع غير القانونية.

نتيجة لذلك ، قامت Google بمنع أو إزالة 5.1 مليار إعلان العام الماضي. كانت غالبية تلك الإعلانات التي توقفت عنها Google بسبب “إساءة استخدام شبكة الإعلانات” ، مما يعني طرق التحايل على عملية مراجعة Google من خلال خداع المستخدمين بإعلانات الطعم والتبديل أو استخدام البرامج الضارة. تضمنت الإعلانات الأخرى التي تم اكتشافها في عملية مسح انتهاكات العلامات التجارية بالإضافة إلى إعلانات شخصية تنتهك سياسات Google من خلال استهداف المستخدمين أو الترويج للمنتجات بناءً على مواضيع حساسة مثل المصاعب الشخصية وتحديد الإيمان والمصالح الجنسية.

تستخدم Google أيضًا منظمة العفو الدولية لمحاربة زيادة الجهات الفاعلة السيئة التي تستفيد من الذكاء الاصطناعي للاحتيال. أصبحت Deepfakes أكثر انتشارًا وإقناعًا. في العام الماضي ، تم استخدام تشابه الممثل توم هانكس لتلقي الخداع الطبية. اتخذت Scarlett Johansson إجراءات قانونية ضد تطبيق لرفع صورتها وصوتها للترويج لها. تابعت Google “الممثلين السيئين الذين يستخدمون الصور أو الصوت التي تم إنشاؤها من الذكاء الاصطناعى لتوضيح انتماءً مع المشاهير لتعزيز عملية الاحتيال” من خلال تعليق أكثر من 700000 حساب معلن ، مما أدى إلى انخفاض بنسبة 90 في المائة في التقارير. بشكل عام ، قامت بمنع أو إزالة 415 مليون إعلان احتيال.

قال فريق السلامة الإعلانات في Google إنهم أغلقوا غالبية حسابات الخداع قبل أن يتم تقديم إعلان للمستخدمين. بالنظر إلى الحجم الحالي الهجومي للأشياء الضارة على الإنترنت ، فإننا نرتجف للتفكير في الإعلانات التي لم تر ضوء النهار مطلقًا.