كشفت لعبة "روبلوكس" عن تحديات كبيرة تواجه نظام التحقق من الأعمار الذي يعتمد على الذكاء الاصطناعي، حيث تمكن بعض المستخدمين من خداع هذه الآلية بطرق مبتكرة. وقد ظهرت أحدث أساليب الخداع في مقطع انتشر عبر وسائل التواصل الاجتماعي، حيث رسم أحد اللاعبين وجهه على إصبعه ليظهر كأنه طفل بين 13 و15 عامًا.

أضافت الشركة أن هذا الخداع يتيح له إجراء محادثات مع مستخدمين آخرين في نفس الفئة العمرية، مما يعكس عيوبًا واضحة في نظام التحقق من العمر، والذي تم تطويره لحماية الأطفال من المحادثات غير الملائمة. رغم ذلك، أكدت "روبلوكس" في بيان أنها تثق بشريكها، شركة "بيرسونا"، المسؤولة عن آلية التحقق من الأعمار، واعتبرت أن الفيديو المتداول هو نتيجة استخدام الذكاء الاصطناعي ولا يعكس جودة النظام.

وتناول تقرير سابق من موقع "وايرد" التقني العديد من المشاكل المتكررة التي تواجهها أنظمة التحقق من العمر. وأشار التقرير إلى أن المستخدمين يبتكرون طرقًا متنوعة لخداع النظام، مثل الرسم على وجوههم أو استخدام صور لمشاهير، مما يزيد من تعقيد عملية التحقق.

كما أفاد التقرير بوجود حسابات تقدم خدمات للتحقق من العمر في "روبلوكس" مقابل أسعار منخفضة، مما يثير تساؤلات حول فعالية النظام. ولفت الباحث المستقل في مجال التطرف عبر الإنترنت، راي تيران، إلى أن الأخطاء في تقدير أعمار المستخدمين قد تشكل خطرًا إضافيًا، إذ يمكن أن يتم تصنيف بالغين كأطفال والعكس بالعكس، مما يزيد العبء على الآباء لمراقبة أنشطة أطفالهم في اللعبة.

أشار تقرير "وايرد" إلى أن المنظومة لم تكن على قدر التحدي، حيث تم اكتشاف أخطاء عديدة في تقدير أعمار اللاعبين، مما يهدد سلامة المستخدمين. وأوضح رئيس قسم السلامة في "روبلوكس"، مات كوفمان، أن العدد الكبير من اللاعبين يجعل الأخطاء أمرًا متوقعًا.

يتضمن نظام "بيرسونا" مجموعة من الأدوات التي تساعد في تحديد العمر، بما في ذلك ملامح الوجه والمستندات الحكومية. ومع ذلك، يطرح التساؤل حول كيفية حماية البيانات التي تجمعها هذه الشركات، وما إذا كانت الإجراءات المتخذة كافية لضمان سلامة المستخدمين.

تسعى "روبلوكس" من خلال هذه الآلية إلى تقييد المحادثات بين البالغين والأطفال في المنصة، لكن يبدو أن التحديات التقنية التي تواجهها قد تجعلها بيئة غير آمنة للأطفال.