توصل التقرير إلى شبكة من حسابات TikTok تستخدم الذكاء الاصطناعي لنشر معلومات سياسية مضللة

حصلت ميزة TikTok على دعم من الذكاء الاصطناعي خلال العام الماضي، بما في ذلك المحتوى الذي ينشر الأكاذيب السياسية قبل الانتخابات، وفقًا لبيانات جديدة من منظمة مراقبة المعلومات الخاطئة NewsGuard.

وفي تقرير جديد يشرح بالتفصيل استخدام أدوات الذكاء الاصطناعي بين الجهات الفاعلة السيئة في TikTok، اكتشفت المنظمة ما لا يقل عن 41 حساب TikTok تنشر محتوى كاذبًا ومعززًا بالذكاء الاصطناعي باللغتين الإنجليزية والفرنسية. بين مارس 2023 ويونيو 2024، نشرت الحسابات 9784 مقطع فيديو بإجمالي أكثر من 380 مليون مشاهدة، بمتوسط ​​مقطع فيديو واحد إلى أربعة مقاطع فيديو مرويّة بالذكاء الاصطناعي كل يوم. استخدمت العديد من مقاطع الفيديو نصوصًا متطابقة، مما يشير إلى جهد منسق. العديد من الحسابات مؤهلة أيضًا لتحقيق الدخل من مقاطع الفيديو الخاصة بها، ضمن صندوق TikTok Creator Fund.

وأوضح موقع NewsGuard أن الكثير من المحتوى تضمن مقالات أو مقاطع فيديو بأسلوب الحقائق الممتعة تشارك روايات كاذبة حول السياسة الأمريكية والأوروبية والحرب الروسية الأوكرانية، مثل الادعاء غير الصحيح بأن الناتو قد نشر قوات قتالية في أوكرانيا وأن الولايات المتحدة كانت وراء الحرب. الهجوم الإرهابي على قاعة مدينة كروكوس في موسكو.

تم إجراء البحث بالشراكة مع أداة الكشف عن الذكاء الاصطناعي TrueMedia.org.

في العام الماضي، وثّق موقع NewsGuard ظهور شبكة صغيرة من حسابات TikTok باستخدام أدوات تحويل النص إلى كلام الميسرة بواسطة الذكاء الاصطناعي لنشر نظريات مؤامرة المشاهير. استخدمت مقاطع الفيديو القصيرة الذكاء الاصطناعي لإنشاء السرد والأصوات الإضافية على الفور عبر عدد كبير من مقاطع الفيديو التي تشارك معلومات كاذبة. في المجمل، حصدت الحسابات 336 مليون مشاهدة و14.5 مليون إعجاب في فترة ثلاثة أشهر.

ويظهر التقرير الأخير زيادة كبيرة في المحتوى المعزز بالذكاء الاصطناعي على التطبيق، ولكن هذه المرة بدوافع سياسية. يشير هذا الاتجاه إلى وجود مزرعة محتوى للذكاء الاصطناعي محفزة ومتنامية بشكل متزايد على التطبيق – والتي تحددها المنظمة على أنها “كيانات تولد كميات كبيرة من المحتوى منخفض الجودة، عادةً لجذب المشاهدات وإيرادات الإعلانات”.

لم يمر انتشار المعلومات الخاطئة والمعلومات المضللة التي يسهلها الذكاء الاصطناعي دون أن يلاحظها أحد من قبل TikTok، حيث تعهدت المنصة بتسمية المحتوى وحتى وضع علامة مائية عليه بشكل أكثر فعالية باستخدام الذكاء الاصطناعي التوليدي. لكن المعلومات السياسية المضللة، المدعومة بكفاءة ميزات الذكاء الاصطناعي، استمرت في الانتشار.

وفي الوقت نفسه، في 9 يوليو/تموز، أعلنت وزارة العدل أنها حددت وأسقطت مزرعة روبوتات روسية تعمل بالذكاء الاصطناعي تدير ما لا يقل عن 1000 حساب مؤيد للكرملين على موقع X (تويتر سابقًا) وبدعم من خليفة وكالة الاستخبارات السوفيتية (كي جي بي) في روسيا. قبل بضعة أشهر، أعلنت شركة OpenAI أنها أنهت حسابات الجهات الفاعلة الحكومية الأجنبية المؤكدة التي تحاول استخدام تكنولوجيا الذكاء الاصطناعي الخاصة بها لدعم الهجمات السيبرانية المحتملة.

لقد سخرت الولايات المتحدة نفسها تكنولوجيا الذكاء الاصطناعي ومزارع الروبوتات لنشر رواياتها المضادة وحتى حملات التضليل الصريحة، بما في ذلك مبادرة عام 2020 للحد من النفوذ الأجنبي من خلال نشر معلومات مضللة حول كوفيد-19.

ومع اقتراب موعد الانتخابات (وتزايد التشكيك في نسبة إقبال الناخبين وثقة المرشحين)، تواصل هيئات المراقبة والمدافعون عن حقوق الإنسان مراقبة كل من المعلومات المضللة المستهدفة والمعلومات الخاطئة المعززة بالذكاء الاصطناعي المنتشرة على منصات وسائل التواصل الاجتماعي.