قام برنامج الدردشة الآلي Grok التابع لشركة X بتأليف عنوان رئيسي مزيف حول مهاجمة إيران لإسرائيل

تم الترويج لقصة مروعة على “الصفحة الأولى” أو الموجز الرئيسي لـ Elon Musk’s X يوم الخميس:

وجاء في العنوان الرئيسي “إيران تضرب تل أبيب بصواريخ ثقيلة”.

ومن المؤكد أن هذا سيكون تطوراً إخبارياً عالمياً مثيراً للقلق. وفي وقت سابق من ذلك الأسبوع، قامت إسرائيل بذلك أُجرِي غارة جوية على السفارة الإيرانية في سوريا، مما أسفر عن مقتل جنرالين وضباط آخرين. بدا الانتقام من إيران وكأنه حدث معقول.

لكن كانت هناك مشكلة رئيسية واحدة: إيران لم تهاجم إسرائيل. العنوان كان مزيفاً

والأمر الأكثر إثارة للقلق هو أن العنوان المزيف تم إنشاؤه على ما يبدو بواسطة برنامج الدردشة الآلي الرسمي الخاص بـ X، Grok، ثم تم الترويج له بواسطة منتج الأخبار الرائج لـ X، Explore، في اليوم الأول من الإصدار المحدث من الميزة.

ربما تم حذف التغريدة

كيف سمح ماسك لهذا أن يحدث

قبل سنوات قليلة من استحواذ إيلون ماسك على المنصة المعروفة آنذاك باسم تويتر، طرحت الشركة ميزة جديدة توفرها السياق المكتوب للمواضيع الرائجة. التكنولوجيا التي تدعم أوصاف الاتجاه المكتوبة؟ البشر.

في السابق، عندما يتم نشر قصة ما، كانت خوارزميات تويتر تلتقط الكلمات الرئيسية ذات الصلة التي يتم نشرها وتشارك الاتجاه، ولكن في بعض الأحيان لم يكن من الواضح سبب انتشار مجموعة معينة من الكلمات.

ولكن في عام 2020، قام تويتر بتشكيل فريق من المحررين البشريين لتنظيم الأخبار ووضع الاتجاهات في السياق. بالإضافة إلى ذلك، فإن أهم التغريدات التي ظهرت ضمن موضوع شائع لن يتم تصنيفها خوارزميًا فحسب، بل ستشمل أيضًا المعالجة البشرية. وبعد مرور عام، تويتر شريك مع AP ورويترز لتعزيز جهودها لتوفير السياق الذي يوفره الإنسان للموضوعات الشائعة.

بعد وقت قصير من شراء ” ماسك ” للشركة في أكتوبر 2022، اختفى السياق المكتوب حول الموضوعات الشائعة. قام ” ماسك ” بتسريح المحررين البشريين في تويتر. كما ذكرت رويترز في نوفمبر 2022، “تم استبعاد فريق التنظيم في تويتر، الذي كان مسؤولاً عن تسليط الضوء على أفضل الأحداث والقصص التي تتكشف على تويتر ووضعها في سياقها”.

صفحة الاستكشاف المحدثة حديثًا لـ X

في وقت سابق من هذا الأسبوع، شاركت بعض حسابات معجبي X مثل @XDaily لقطات الشاشة من صفحة الاستكشاف القادمة لـ X إعادة التشغيل. تتضمن صفحة الاستكشاف الخاصة بـ X قائمة الموضوعات الشائعة سيئة السمعة في النظام الأساسي إلى جانب أقسام محددة مثل “الأخبار” و”الرياضة” لتزويد المستخدمين بقصص شائعة في كل فئة موضوع معينة.

ربما تم حذف التغريدة

بدت صفحة “استكشاف” المحدثة لـ Musk مهيأة لإعادة السياق المكتوب المقدم للموضوعات والقصص الشائعة.

في 4 أبريل، بدأ X في طرح صفحة الاستكشاف المحدثة حديثًا. يوفر التحديث أهم منشورات المستخدمين حول كل موضوع شائع على حدة بالإضافة إلى ملخص سهل الاستيعاب للموضوع الموجود أعلى محتوى المستخدم. في أعلى الصفحة، يوجد عنوان رئيسي تم إنشاؤه بواسطة علامة X يعرض المعلومات للقراء كما لو كانوا على وشك قراءة مقال حول هذا الموضوع.

بالإضافة إلى ذلك، يمنح التحديث أيضًا Explore موقعًا جديدًا وبارزًا على النظام الأساسي. تظهر الآن قصص Explore الشائعة مضمنة مباشرة في الشريط الجانبي الأيمن لصفحة X الرئيسية، حيث كانت توجد قائمة الموضوعات الشائعة، والتي يشاهدها مئات الملايين من مستخدمي X يوميًا.

في لقطة شاشة تم التقاطها من بث مستخدم Twitch الشهير Hasan Piker، يمكن رؤية عنوان X المزيف الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على الشريط الجانبي للصفحة الرئيسية للمنصة.
ائتمان: تويتش حسن بيكر

ومع ذلك، لم يعيد ” ماسك ” فريق تنظيم تويتر، ولم يعين محررين بشريين جدد لكتابة السياق الذي يوفره ” X” الآن.

تمت كتابة السياق بواسطة برنامج الدردشة الآلي الخاص بـ X، Grok.

خطورة X بالاعتماد على الذكاء الاصطناعي

نحن نعلم أن Grok، وهي ميزة الذكاء الاصطناعي بشكل كبير ترقية بواسطة المسك، تعمل على تشغيل ملخصات X السياقية لأن X تقول ذلك بنفسها بأحرف صغيرة في كل صفحة استكشاف.

ربما تم حذف التغريدة

“Grok هي ميزة مبكرة ويمكن أن ترتكب أخطاء،” تقرأ الملاحظة الصغيرة من X أسفل السياق المكتوب الموجود في صفحة الاستكشاف. “التحقق من مخرجاتها.”

ورصد موقع “ماشابل” صفحة “إيران تضرب تل أبيب بصواريخ ثقيلة” على موقع “إكس” والتي نشرت أخبارا كاذبة كما كانت رائجة يوم الخميس..

بناءً على ملاحظاتنا، يبدو أن الموضوع بدأ في الانتشار بسبب الارتفاع المفاجئ في حسابات علامة الاختيار الزرقاء (المستخدمون الذين يدفعون اشتراكًا شهريًا في X للحصول على ميزات Premium بما في ذلك شارة التحقق) الذين يرسلون نفس المعلومات الخاطئة عن النسخ واللصق حول مهاجمة إيران إسرائيل. كانت المنشورات المنسقة التي قدمها X مليئة بهذه الحسابات التي تم التحقق منها والتي تنشر هذه الأخبار المزيفة إلى جانب مقطع فيديو لم يتم التحقق منه يصور انفجارات.

مقارنة جنبًا إلى جنب بين منشورين منفصلين على صفحة X Explore تعرض منشورات أخبار مزيفة من مستخدمي التحقق الأزرق الذين أبلغوا Grok.
الائتمان: لقطة شاشة Mashable

ومن هنا، يبدو أن خوارزميات X لاحظت وجود اتجاه محتمل للقصة ضمن منشورات هؤلاء المستخدمين، وتم إنشاء صفحة “استكشاف القصة”. يمكننا أن نستنتج من ادعاءات X الخاصة حول أعماله الداخلية أن Grok لا بد أن يكون قد أنشأ بعد ذلك رواية مكتوبة ذات مظهر رسمي، إلى جانب عنوان جذاب. لقد فعلت كل هذا بناءً على مشاركة مستخدمين محددين لأخبار مزيفة، في محاولة تلقائية لتوفير سياق لما يبدو أن المنصة نفسها تفترض أنها قصة حقيقية.

لن تكون هذه هي المرة الأولى التي يقدم فيها Grok للمستخدمين معلومات مضللة. وجدت التقارير السابقة عن الإصدارات الأولى من برنامج الدردشة الآلي الخاص بـ X أنه غالبًا ما ينشئ أخبارًا مزيفة في المحادثات الخاصة مع عدد قليل من المستخدمين الذين لديهم إمكانية الوصول إليها. ومع ذلك، فإن هذه الحادثة الأخيرة جنبًا إلى جنب مع ميزة Explore الجديدة تمثل المرة الأولى التي يأخذ فيها X معلومات مضللة من Grok، ويجمعها كقصة إخبارية رائجة حقيقية، ويروج لها إلى قاعدة مستخدميه بالكامل، ظاهريًا كسياق لحدث حقيقي.

في عهد ” ماسك “، ظهرت المعلومات المضللة ارتفعت على المنصة المعروفة باسم X. وبفضل منتج Explore الجديد، روجت الشركة لكذبة تم نشرها عن طريق دفع أموال لممثلين سيئين يستعدون لكسب المال مقابل توليد التعاقدات.

يوم واحد بعد أن أنشأ Grok هذه القصة المزيفة التي روج لها X عبر صفحة Explore الخاصة به، قامت الشركة بنشر Grok لجميع مستخدمي X المشتركين في Premium حتى يتمكنوا من استخدام برنامج الدردشة الآلي الذي يعمل على إنشاء معلومات مضللة أيضًا.

ربما تم حذف التغريدة