روبلوكس تستخدم الذكاء الاصطناعي لحظر المحتوى المسيء

كشفت لعبة "روبلوكس" الأمريكية عن تحديث أمني جديد يعتمد على الذكاء الاصطناعي لمراقبة المحتوى داخل اللعبة. وأفاد موقع "ديجيتال تريندز" التقني بأن هذا التحديث أطلق في نهاية مارس/آذار الجاري.

وأوضحت الشركة أن الهدف من هذه الخطوة هو معالجة المشكلات القانونية التي واجهتها "روبلوكس" بسبب المحتوى غير المناسب للأطفال. وأضافت أن هذا المحتوى أدى إلى حظر اللعبة في العديد من الدول.

وبينت "روبلوكس" أن المنظومة الجديدة تراقب كل الأحداث داخل اللعبة وتفحص المشاهد التي يراها اللاعبون. وأشارت إلى أن هذا الفحص يهدف إلى اكتشاف أي محتوى مخالف تجاوز المرشحات الآلية السابقة.

وأكدت اللعبة في مدونتها الرسمية أن النموذج الجديد يفحص جميع مكونات المشاهد، بدءا من النصوص وصولا إلى أشكال الشخصيات ثلاثية الأبعاد. وأضافت أن النظام يقرر ما إذا كان المحتوى يتناسب مع معايير اللعبة أم لا.

وأشارت الشركة إلى أن هذا النظام يختلف عن أنظمة الرقابة التقليدية التي تفحص عنصرا واحدا في كل مرة. وأوضحت أن النظام الجديد يمنع بالتالي تسرب أي محتوى غير مناسب.

وأظهرت البيانات أن النظام الجديد يغلق أي خادم أو لعبة داخلية تحتوي على محتوى مخالف. وكشفت الشركة أن المنظومة أغلقت نحو 5 آلاف خادم يوميا منذ إطلاقها.

وذكرت الشركة أنها تخطط لترقية النظام مستقبلا ليتمكن من حذف اللاعبين الذين يكررون مخالفة قواعد المحتوى. وأضافت أن النظام الجديد يتيح لكل لاعب رؤية المخالفات التي ارتكبها في لوحة التحكم الخاصة به.

وبينت الشركة أن صناع الألعاب والمحتوى يمكنهم أيضا مراقبة الأنشطة داخل ألعابهم بشكل أكثر تفصيلا. وأفادت "روبلوكس" بأنها تعمل مع شركتي "كييورد" و"رايوت" لإطلاق شهادة معتمدة لمديري المجتمع والمحتوى في الألعاب الجماعية.

ووصف موقع "ديجيتال تريندز" التحديث الأخير بأنه أحد أبرز التحديثات التي قدمتها الشركة لمواجهة أزمة المحتوى المخالف.