ما هو استيقظ الذكاء الاصطناعي؟ فك رموز الهدف الأخير للبيت الأبيض.

يقول الرئيس دونالد ترامب إن “استيقظ الذكاء الاصطناعي” يمثل تهديدًا ملحوظًا للحقيقة والفكر المستقل. يقول النقاد إن خطته لمكافحة ما يسمى بمنقم الذكاء الاصطناعي تمثل تهديدًا لحرية التعبير وربما تنتهك التعديل الأول.

لقد استحوذ هذا المصطلح على أهمية جديدة منذ أن أوضح الرئيس خطة العمل في البيت الأبيض يوم الأربعاء ، 23 يوليو ، وهي جزء من دفعة لتأمين الهيمنة الأمريكية في قطاع الذكاء الاصطناعي سريع النمو.

تقوم خطة عمل الذكاء الاصطناعى بإبلاغ الثلاثي بالأوامر التنفيذية:

تقوم خطة العمل بالتحقق من عدد قليل من العناصر من قائمة الأمنيات التقنية الكبيرة وتستعير الصياغة مثل “البحث عن الحقيقة” مباشرة من قادة الذكاء الاصطناعى مثل Elon Musk. يضع الأمر التنفيذي حول Woke AI أيضًا مواقع نماذج ذات لغة كبيرة مع ميول ليبرالية زعم كحمة جديدة يمينية.

إذن ، ما هو استيقظ الذكاء الاصطناعي؟ إنه ليس مصطلحًا سهلاً لتحديده ، ويعتمد الإجابة تمامًا على من تسأل. رداً على أسئلة Mashable ، أشارنا متحدث باسم البيت الأبيض إلى هذه اللغة في ورقة حقائق صادرة إلى جانب ترتيب الاستيقاظ من الذكاء الاصطناعي: “مخرجات منظمة العفو الدولية المتحيزة مدفوعة بالأيديولوجيات مثل التنوع والإنصاف والإدماج (DEI) على حساب الدقة”.

ما هو استيقظ الذكاء الاصطناعي؟ تفريغ تعريف البيت الأبيض

ومن المثير للاهتمام ، باستثناء العنوان ، لا يستخدم نص Woke AI التنفيذي هذا المصطلح فعليًا. وعلى الرغم من أن الأمر يحتوي على قسم تعريفات ، إلا أن المصطلح نفسه لم يتم تعريفه بوضوح هناك أيضًا. (من الممكن أن تكون “استيقظ منظمة العفو الدولية” ببساطة غامضًا جدًا من مفهوم الكتابة في المستندات القانونية الفعلية.) ومع ذلك ، فإن صحيفة الحقائق التي صدرها البيت الأبيض تنص على أن قادة الحكومة يجب أن يشتروا فقط “نماذج لغة كبيرة (LLMs) التي تلتزم بـ” مبادئ الذكاء الاصطناعى غير المتحيزة “بالترتيب: ترتيب الحقيقة والمعيار المعدل”.

وإليك كيف تعرف صحيفة الحقائق “البحث عن الحقيقة” و “الحياد الأيديولوجي”:

إن البحث عن الحقيقة يعني أن LLMs يجب أن تكون صادقة وتعطي الأولوية للدقة التاريخية ، والاستفسار العلمي ، والموضوعية ، والاعتراف بعدم اليقين حيث تكون المعلومات الموثوقة غير مكتملة أو متناقضة.

الحياد الأيديولوجي يعني أن LLMs يجب أن تكون أدوات محايدة وغير حزبية لا تتلاعب بالاستجابات لصالح العقائد الأيديولوجية مثل DEI ، وأن المطورين لن يقوموا بتشفير أحكام حزبية أو أيديولوجية عن قصد في مخرجات LLM ما لم تتم الدفاع من هذه الأحكام من قبل المستخدم النهائي بسهولة.

لذلك ، يبدو أن البيت الأبيض يعرّف منظمة العفو الدولية على أنها LLMs التي لا تسعى إلى الحقيقة بشكل كافٍ أو محايدة أيديولوجيًا. كما يدعو الأمر التنفيذي أمثلة محددة عن التحيز المحتمل ، بما في ذلك “نظرية العرق الحرجة ، والتحول الجنسي ، والتحيز اللاواعي ، والتقاطع ، والعنصرية الجهازية”. من الواضح أن هناك نزاعًا على مستوى الثقافة حول ما إذا كانت هذه الموضوعات (بما في ذلك “المتحولين جنسياً” ، والتي ليست مصطلحًا مقبولًا من قبل الأشخاص المتحولين جنسياً) منحازة بطبيعتها.

من الأهمية بمكان ، يمكن إغلاق شركات الذكاء الاصطناعى التي تفشل في الوفاء باختبارات Litmus في البيت الأبيض من العقود الفيدرالية المربحة. ولأن الأمر يحدد المعتقدات السياسية الليبرالية الشعبية – ناهيك عن مجموعة كاملة من البشر – على أنها متحيزة بطبيعتها ، قد تواجه شركات الذكاء الاصطناعي ضغوطًا لضبط مدخلات النماذج والمخرجات وفقًا لذلك.

تحدثت إدارة ترامب عن لعبة كبيرة حول حرية التعبير ، لكن منتقدي خطة العمل يقولون إن هذا النظام هو في حد ذاته تهديدًا كبيرًا لحرية التعبير.

وقال كيت والش ، مدير الذكاء الاصطناعي والوصول إلى المشاريع الإلكترونية الحدودية في بيان له: “جزء من خطة العمل بعنوان” تأكد من أن Frontier AI يحمي حرية التعبير والقيم الأمريكية “. “تتضمن الذكاء الاصطناعي التوليدي حقوق التعديل الأولى للمستخدمين لتلقي المعلومات ، وعادة ما تعكس أيضًا الخيارات التعبيرية المحمية للعديد من البشر المشاركين في تشكيل الرسائل التي تكتبها الذكاء الاصطناعي. لا يمكن للحكومة إملاء الأفكار التي يتم نقلها من خلال الذكاء الاصطناعي من خلال الصحف أو المواقع الإلكترونية.”

وقال والش: “لدى الحكومة مهلة أكبر لتحديد الخدمات التي تشتريها لاستخدامها الخاص ، ولكن قد لا تستخدم هذه القوة لمعاقبة الناشر لتوفير خدمات الذكاء الاصطناعى التي تنقل الأفكار التي تعجبها الحكومة”.

هل استيقظ منظمة العفو الدولية مشكلة حقيقية؟

مرة أخرى ، تعتمد الإجابة تمامًا على المكان الذي تقع على طول خط الصدع السياسي ، وأصبح مصطلح “استيقظ” مثيرًا للجدل في السنوات الأخيرة.

نشأت هذه الصفة في المجتمع الأسود ، حيث وصفت الأشخاص ذوي الوعي السياسي بالتحيز العنصري والظلم. في الآونة الأخيرة ، بدأ العديد من المحافظين في استخدام الكلمة باعتبارها مهووسًا ، وهي إهانة للجميع على الليبراليين الذين يفترضون من الناحية السياسية.

في الحقيقة ، يشعر كل من الليبراليين والمحافظين بالقلق إزاء التحيز في نماذج اللغة الكبيرة.

في نوفمبر 2024 ، استضافت مؤسسة التراث ، وهي مجموعة قانونية محافظة ، لجنة على YouTube حول موضوع Woke AI. كان كيرت ليفي ، رئيس لجنة العدالة ، أحد خبراء اللجنة ، وكمحامي محافظ عمل أيضًا في صناعة الذكاء الاصطناعي ، كان لديه منظور فريد لمشاركته.

أعتقد أنه من المثير للاهتمام أن اليسار واليمين يشكون من خطر التحيز في الذكاء الاصطناعي ، لكنهما يركزان على أشياء مختلفة تمامًا. يركز اليسار بشكل أساسي على فكرة أن نماذج الذكاء الاصطناعى تميز ضد مجموعات الأقليات المختلفة عندما يتخذون قرارات بشأن التوظيف والإقراض ومبالغ الكفالة والتعرف على الوجه. من ناحية أخرى ، فإن اليمين قلق بشأن التحيز ضد وجهات النظر المحافظة والأشخاص في نماذج لغة كبيرة مثل ChatGPT.

لقد أوضح Elon Musk أنه يعتقد أن نماذج الذكاء الاصطناعى ترث عقلية استيقظ من منشئيها ، وأن هذه مشكلة فقط إذا كانت تتعارض مع الوجود ، ما يسميه ، البحث عن الحقيقة القصوى. يقول موسك إن الشركات تدرس الذكاء الاصطناعي أن تكذب باسم الصواب السياسي.

قال ليفي أيضًا إنه إذا كانت LLMs منحازة ، فهذا لا يعني بالضرورة أنها “مصممة لتكون متحيزة”. وأضاف أن “العلماء الذين يقومون ببناء نماذج الذكاء الاصطناعى هذه يجب أن يتخذوا خيارات حول البيانات التي يجب استخدامها ، كما تعلمون ، أن العديد من هؤلاء العلماء أنفسهم يعيشون في مناطق ليبرالية للغاية مثل منطقة خليج سان فرانسيسكو ، وحتى إذا كانوا لا يحاولون جعل النظام متحيزًا ، فقد يكون لديهم تحيزات غير واعية للغاية عندما يتعلق الأمر باختيار البيانات.”

محافظ باستخدام عبارة “التحيز اللاواعي” دون تدحرج عينيه؟ بري.

LLMs لها تحيزات لأن لدينا تحيزات

الائتمان: تشنغ شين/غيتي إيمس

في نهاية المطاف ، تعكس نماذج الذكاء الاصطناعى تحيزات المحتوى الذي تم تدريبهم عليه ، وبالتالي فهي تعكس تحيزاتنا الخاصة بنا. بهذا المعنى ، إنهم مثل المرآة ، باستثناء مرآة ذات ميل إلى الهلوسة.

للامتثال للأمر التنفيذي ، يمكن أن تحاول شركات الذكاء الاصطناعي أن تحاول الإجابات “المتحيزة” بعدة طرق. أولاً ، من خلال التحكم في البيانات المستخدمة لتدريب هذه الأنظمة ، يمكنهم معايرة المخرجات. يمكنهم أيضًا استخدام مطالبات النظام ، وهي تعليمات عالية المستوى تحكم جميع مخرجات النموذج.

بالطبع ، كما أوضح Xai مرارًا وتكرارًا ، يمكن أن يكون النهج الأخير … مشكلة. أولاً ، طورت Chatbot Grok من Xai تثبيتًا على “الإبادة الجماعية البيضاء في جنوب إفريقيا” ، وبدأت مؤخرًا في تسمية Mecha Hitler. يمكن أن توفر الشفافية فحصًا للانتهاكات المحتملة ، وهناك حركة متزايدة لإجبار شركات الذكاء الاصطناعي على الكشف عن بيانات التدريب ومطالبات النظام خلف نماذجها.

بغض النظر عن ما تشعر به حيال استيقاظ الذكاء الاصطناعي ، يجب أن تتوقع سماع المصطلح أكثر في الأشهر المقبلة.