تتناوب شخصيات شخصية منظمة العفو الدولية على الإنترنت ، مدفوعة من قبل المجتمعات عبر الإنترنت

تشكل Charths Chatbots تهديدًا غزيرًا للسلامة عبر الإنترنت ، وفقًا لتقرير جديد عن نشر الروبوتات الجنسية والعنيفة عبر منصات شخصيات مثل الشخصية الشائنة الآن.

تنشر الدراسة من قبل شركة Graphika ، وهي شركة لتحليل الشبكات الاجتماعية ، توثق إنشاء وتكاثرات chatbots الضارة عبر منصات الشخصيات الأكثر شعبية على الإنترنت ، والعثور على عشرات الآلاف من روبوتات الأدوار التي يحتمل أن تكون خطرة التي تم بناؤها من قبل مجتمعات رقمية متخصصة تعمل حول نماذج شهيرة مثل Chatgpt و Claude و Gemini.

على نطاق واسع ، يهاجر الشباب إلى محطات chatbots المصاحبة في عالم رقمي منفصل بشكل متزايد ، وهم يجذبون محادثة الذكاء الاصطناعى إلى لعب الأدوار ، واستكشاف المصالح الأكاديمية والإبداعية ، وأن يكون لديهم تبادل رومانسي أو صريح جنسيًا ، وفقًا لتقارير Rebecca Ruiz من Mashable. دفع هذا الاتجاه التنبيه من مراقبة سلامة الطفل وأولياء الأمور ، التي ارتفعت بسبب الحالات البارزة من المراهقين الذين شاركوا في سلوك متطرف ، يهدد الحياة في بعض الأحيان ، في أعقاب التفاعلات الشخصية مع محطات الدردشة المصاحبة.

وناشدت الجمعية الأمريكية للعلم النفسي لجنة التجارة الفيدرالية في يناير ، وطلب من الوكالة التحقيق في منصات مثل الحرف. AAI وانتشار دردشة الصحة العقلية المسمى بشكل مخادع. حتى رفاق الذكاء الاصطناعي الأقل وضوحًا قد يديمون الأفكار الخطيرة حول الهوية وصورة الجسم والسلوك الاجتماعي.

يركز تقرير Graphika على ثلاث فئات من chatbots المصاحبة في الصناعة المتطورة: شخصيات Chatbot التي تمثل القاصرين الجنسيين ، أولئك الذين يدافعون عن اضطرابات الأكل أو إيذاء الذات ، وأولئك الذين لديهم ميول متطرف بغيض أو عنيف. قام التقرير بتحليل خمسة منصات بارزة في استضافة بطاقات الشخصيات (character.ai ، الدردشة الحارة ، Chub AI ، Crushon.ai ، و Janitorai) ، بالإضافة إلى ثماني مجتمعات ذات صلة Reddit وحسابات X المرتبطة بها. نظرت الدراسة فقط إلى روبوتات نشطة اعتبارا من 31 يناير.

تعد chatbots المرافقة الجنسية أكبر تهديد

غالبية chatbots غير الآمنة ، وفقًا للتقرير الجديد ، هي تلك التي تم تصنيفها على أنها “شخصيات جنسية وطفيفة تقديم” ، أو التي تشارك في لعب الأدوار التي تتميز بقصر جنسي أو الاستمالة. عثرت الشركة على أكثر من 10000 Chatbots مع مثل هذه الملصقات عبر المنصات الخمسة.

ظهرت أربعة من منصات chatbot ذات الشخصيات البارزة على أكثر من 100 حالة من الأفراد الجنسيين ، أو سيناريوهات لعب الأدوار التي تعرض الشخصيات القاصرة ، والتي تمكن محادثات صريحة جنسيًا مع chatbots ، وتقارير Graphika. استضافت Chub AI أعلى الأرقام ، حيث تم تصنيف أكثر من 7000 Chatbots مباشرة على أنها شخصيات ثانوية جنسية و 4000 أخرى تحمل علامة “دون السن القانونية” والتي كانت قادرة على الانخراط في سيناريوهات الأطفال الصريحة والضمنية.

تشكل دردشة chatbots ذات الطابع المتطرف البغيض أو العنيف مجموعة فرعية أصغر بكثير من مجتمع chatbot ، حيث تستضيف منصات ، في المتوسط ​​، 50 روبوتات من عشرات الآلاف من آلاف الآخرين – غالبًا ما تمجد هذه الدردشة المعتدين المعروفين ، والسيادة البيضاء ، والعنف العام مثل إطلاق النار الجماعي. يوضح التقرير أن هذه الدردشة لديها القدرة على تعزيز وجهات النظر الاجتماعية الضارة ، بما في ذلك ظروف الصحة العقلية. تعزز chatbots بأنها “Buddy” (“Buddy Aanorxia Buddy”) ، “MeansPo مدربين” ، وسيناريوهات لعب الأدوار السامة تعزز سلوكيات المستخدمين مع اضطرابات الأكل أو الاتجاهات تجاه إيذاء الذات ، وفقًا للتقرير.

تنتشر chatbots بواسطة مجتمعات متخصصة على الإنترنت

يتم إنشاء معظم هذه الدردشة ، Graphika ، من خلال شبكات الإنترنت المنشأة والموجودة مسبقًا ، بما في ذلك “حسابات الاضطراب المؤيد للأكل / الضرر الذاتي لوسائل التواصل الاجتماعي و Fandoms الحقيقية” ، وكذلك “مراكز ما يسمى غير آمنة للحياة (NSFL) / NSFW CHATBOT ، الذين ظهروا للتركيز على الصياغة المتعثرة”. كما أن مجتمعات الجريمة الحقيقية والقاتل التسلسلي ، كما تم أخذها في الاعتبار بشكل كبير في إنشاء مفاتيح الدردشة NSL.

كانت العديد من هذه المجتمعات موجودة بالفعل في مواقع مثل X و Tumblr ، وذلك باستخدام chatbots لتعزيز اهتماماتهم. ومع ذلك ، ظهرت في أغلب الأحيان ، في أغلب الأحيان ، بدافع الاهتمام الفردي ، والتي صممها المستخدمون الذين تلقوا نصيحة من منتديات عبر الإنترنت مثل لوحة 4Chan’s / G / Technology ، وخوادم Discord ، و Subreddits الخاصة بالمادة الخاصة.

ووجدت الدراسة أن أيا من هذه المجتمعات لديها إجماع واضح حول درجات المستخدم والحدود.

ثغرات التكنولوجيا الإبداعية احصل على chatbots عبر الإنترنت

“في جميع المجتمعات التي تم تحليلها ، يوضح Graphika ،” هناك مستخدمون يعرضون مهارات تقنية للغاية يمكّنهم من إنشاء مفاتيح دردشة شخصية قادرة على التحايل على قيود الاعتدال ، مثل نشر نماذج واضحة للمصدر ، مثلما يديرونها ، ويجعلونها مفيدة ، ويجعلونها مفيدة. مجتمع.” غالبًا ما يتم تحفيز مستخدمي هذه التكنولوجيا من قبل المسابقات المجتمعية لإنشاء مثل هذه الشخصيات بنجاح.

تشمل الأدوات الأخرى التي يسخرها منشئي chatbot هؤلاء التبادلات الرئيسية API ، والكسرات المدمجة ، والتهجئة البديلة ، والفهرسة الخارجية ، وعمليات الأحرف الصغيرة ، والاقتراض لغة مشفرة من مجتمعات الأنيمي والمانجا – وكلها قادرة على العمل حول أطراف نماذج AI الحالية.

“[Jailbreak] يطالب بتعيين معلمات LLM لتجاوز الضمانات من خلال تضمين تعليمات مصممة للنماذج لتوليد ردود على التهرب من الاعتدال ، “يشرح التقرير. كجزء من هذا الجهد ، وجد منشئي Chatbot مناطق رمادية لغوية تسمح لـ BOTs بالبقاء على منصات استضافة الشخصيات ، بما في ذلك استخدام مصطلحات العائلة (مثل” الابنة “).

في حين تستمر المجتمعات عبر الإنترنت في العثور على الفجوات في اعتدال مطوري الذكاء الاصطناعي ، فإن التشريعات الفيدرالية تحاول ملءها ، بما في ذلك مشروع قانون جديد في كاليفورنيا يهدف إلى معالجة ما يسمى “إدمان Chatbot” بين الأطفال.