أوقفت OpenAI خمس عمليات تأثير سرية في الأشهر الثلاثة الماضية

تعمل شركة OpenAI على التخلص من المزيد من العناصر السيئة باستخدام نماذج الذكاء الاصطناعي الخاصة بها. ولأول مرة بالنسبة للشركة، تمكنوا من تحديد وإزالة الحسابات الروسية والصينية والإسرائيلية المستخدمة في عمليات التأثير السياسي.

وفقًا لتقرير جديد صادر عن فريق الكشف عن التهديدات بالمنصة، اكتشفت المنصة وأغلقت خمسة حسابات تشارك في عمليات التأثير السرية، مثل الروبوتات المحملة بالدعاية، وأدوات غسل الوسائط الاجتماعية، ومولدات المقالات المزيفة.

وكتبت الشركة: “تلتزم OpenAI بتطبيق السياسات التي تمنع إساءة الاستخدام وتحسين الشفافية حول المحتوى الذي ينشئه الذكاء الاصطناعي”. “وينطبق هذا بشكل خاص فيما يتعلق باكتشاف وتعطيل عمليات التأثير السرية (IO)، التي تحاول التلاعب بالرأي العام أو التأثير على النتائج السياسية دون الكشف عن الهوية الحقيقية أو نوايا الجهات الفاعلة التي تقف وراءها”.

تشمل الحسابات المنتهية أولئك الذين يقفون وراء عملية Telegram الروسية التي يطلق عليها اسم “Bad Grammar” وأولئك الذين يقومون بتسهيل عملية شركة STOIC الإسرائيلية. تم اكتشاف أن STOIC يستخدم نماذج OpenAI لإنشاء مقالات وتعليقات تشيد بالحصار العسكري الإسرائيلي الحالي، والتي تم نشرها بعد ذلك عبر منصات Meta وX والمزيد.

تقول OpenAI إن مجموعة الجهات الفاعلة السرية كانت تستخدم مجموعة متنوعة من الأدوات “لمجموعة من المهام، مثل إنشاء تعليقات قصيرة ومقالات أطول بمجموعة من اللغات، وتكوين الأسماء والسير الذاتية لحسابات وسائل التواصل الاجتماعي، وإجراء أبحاث مفتوحة المصدر، تصحيح أخطاء التعليمات البرمجية البسيطة، وترجمة النصوص وتدقيقها.”

وفي فبراير، أعلنت شركة OpenAI أنها أنهت العديد من حسابات “الممثلين الأجانب السيئين” التي وجدت أنها متورطة في سلوك مشبوه مماثل، بما في ذلك استخدام خدمات الترجمة والترميز الخاصة بشركة OpenAI لدعم الهجمات السيبرانية المحتملة. تم هذا الجهد بالتعاون مع Microsoft Threat Intelligence.

بينما تستعد المجتمعات لسلسلة من الانتخابات العالمية، يراقب الكثيرون عن كثب حملات التضليل المعززة بالذكاء الاصطناعي. وفي الولايات المتحدة، أدت مقاطع الفيديو والتسجيلات الصوتية المزوَّرة بتقنية الذكاء الاصطناعي للمشاهير، وحتى المرشحين الرئاسيين، إلى دعوة فيدرالية لقادة التكنولوجيا لوقف انتشارها. ووجد تقرير صادر عن مركز مكافحة الكراهية الرقمية أنه – على الرغم من التزامات النزاهة الانتخابية من جانب العديد من قادة الذكاء الاصطناعي – لا يزال من السهل التلاعب باستنساخ الصوت باستخدام الذكاء الاصطناعي من قبل الجهات الفاعلة السيئة.

تعرف على المزيد حول كيفية تأثير الذكاء الاصطناعي في انتخابات هذا العام، وكيف يمكنك الاستجابة له.