تعلن Google عن نظام الفريق الأحمر الجديد لجيل الذكاء الاصطناعي
وبينما تقوم جوجل بتعيين الذكاء الاصطناعي التوليدي الذي تمت ترقيته كمدرس ومساعد وخبير توصيات، تحاول الشركة أيضًا تحويل نماذجها إلى أسوأ عدو للممثل السيئ.
قال جيمس مانيكا، نائب الرئيس الأول للأبحاث والتكنولوجيا والمجتمع في Google، أمام الجمهور في مؤتمر Google I/O 2024 الذي عقدته الشركة: “من الواضح أن الذكاء الاصطناعي يساعد الناس بالفعل”. “ومع ذلك، كما هو الحال مع أي تكنولوجيا ناشئة، لا تزال هناك مخاطر، وستنشأ أسئلة جديدة مع تقدم الذكاء الاصطناعي وتطور استخداماته.”
بعد ذلك، أعلنت مانيكا عن أحدث تطور للشركة فيما يتعلق بفريق العمل الأحمر، وهو عبارة عن عملية اختبار قياسية في الصناعة للعثور على نقاط الضعف في الذكاء الاصطناعي التوليدي. يقوم “الفريق الأحمر المدعوم بالذكاء الاصطناعي” الجديد من Google بتدريب العديد من عملاء الذكاء الاصطناعي للتنافس مع بعضهم البعض للعثور على التهديدات المحتملة. ويمكن لهذه النماذج المدربة بعد ذلك أن تحدد بشكل أكثر دقة ما تسميه جوجل “التحريض الخصومي” والحد من المخرجات التي تنطوي على مشاكل.
سرعة الضوء ماشابل
يمكن لـ Gemini Nano اكتشاف مكالمات الاحتيال نيابةً عنك
Google I/O: تطبيق Gemini الجديد يريد أن يكون مساعد الذكاء الاصطناعي ليتفوق على جميع مساعدي الذكاء الاصطناعي
هذه العملية هي خطة الشركة الجديدة لبناء ذكاء اصطناعي أكثر مسؤولية يشبه الإنسان، ولكن يتم بيعها أيضًا كوسيلة لمعالجة المخاوف المتزايدة بشأن الأمن السيبراني والمعلومات المضللة.
وأوضحت جوجل أن إجراءات السلامة الجديدة تتضمن تعليقات من فريق من الخبراء عبر التكنولوجيا والأوساط الأكاديمية والمجتمع المدني، بالإضافة إلى مبادئها السبعة لتطوير الذكاء الاصطناعي: أن تكون مفيدة اجتماعيًا، وتجنب التحيز، وبناء واختبار السلامة، والمساءلة البشرية، والخصوصية. التصميم، ودعم التميز العلمي، وإمكانية الوصول العام. ومن خلال جهود الاختبار الجديدة هذه والالتزامات على مستوى الصناعة، تحاول Google وضع المنتج في مكانه الصحيح.
اكتشاف المزيد من مرابع التكنولوجيا
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
