يجد التقرير أن بوتا التي تم تصويرها من المشاهير يمكن أن تناقش الجنس مع القاصرين

يمكن لـ AI chatbots المتوفرة على منصات Meta مثل Facebook و Instagram الانخراط في محادثات صريحة جنسيًا مع المستخدمين دون السن القانونية ، وفقًا لتقرير جديد في صحيفة وول ستريت جورنال.

تقول WSJ أنه بعد التعرف على المخاوف الداخلية حول ما إذا كانت الشركة تفعل ما يكفي لحماية القاصرين ، فقد أمضت شهورًا في إجراء مئات المحادثات مع كل من Chatbot Meta AI الرسمي ، بالإضافة إلى مجموعات الدردشة التي تم إنشاؤها من قبل المستخدمين على منصات التعريف.

في محادثة تم الإبلاغ عنها ، وصف صوت chatbot الذي يستخدمه صوت الممثل/المصارع جون سينا ​​سيناريو جرافيك جنسي لمستخدم يحدده فتيات لمدة 14 عامًا. في محادثة أخرى ، تخيل chatbot ضابط شرطة يصطاد سينا ​​مع معجب يبلغ من العمر 17 عامًا ويخبره ، “جون سينا ​​، أنت قيد الاعتقال بسبب الاغتصاب القانوني”.

وصف متحدث باسم META اختبار WSJ بأنه “مصنّع جدًا لدرجة أنه ليس فقط هامشًا ، إنه افتراضي”. قدرت الشركة أنه في فترة 30 يومًا ، كان المحتوى الجنسي يمثل 0.02 ٪ من الاستجابات المشتركة عبر Meta AI و AI Studio مع المستخدمين دون سن 18 عامًا.

وقال المتحدث: “ومع ذلك ، فقد اتخذنا الآن تدابير إضافية للمساعدة في ضمان الأفراد الآخرين الذين يرغبون في قضاء ساعات في التلاعب بمنتجاتنا في حالات الاستخدام الشديد ، سيكونون وقتًا أكثر صعوبة”.