مع توسع دور الذكاء الاصطناعي ليصبح رفيقا رقميا يتحدث معه الاطفال والمراهقون بشكل يومي لم تعد معايير السلامة التقليدية كافية لمنع المحتوى الضار. واصبحت الحاجة ملحة لفهم السياق النفسي واللغوي الذي يحيط بتفاعلات المستخدمين الصغار مع هذه النماذج المتطورة.

كشفت شركة سيركيت بريكر لابز الامريكية عن نهج مبتكر يهدف الى تطوير اليات لاختبار انظمة الذكاء الاصطناعي قبل طرحها للاستخدام العام. واوضحت الشركة انها تعمل على بناء ما يشبه دمى اختبار الاصطدام الرقمية وهي عبارة عن وكلاء برمجية تحاكي انماط مستخدمين من اعمار وخلفيات ثقافية متنوعة لضمان كفاءة انظمة الحماية.

وبينت الشركة ان هؤلاء الوكلاء قادرون على اجراء اكثر من 100 الف تفاعل محاكٍ مع اختبار اللغة العامية والعبارات غير المباشرة والاخطاء الاملائية التي قد يقع فيها الاطفال. واظهرت الدراسات ان المشكلات لا تكمن في سؤال واحد محدد بل في سلسلة من المحادثات التي قد تشير الى ازمات نفسية او سلوكيات محفوفة بالمخاطر.

واشار ارول نيغام المدير التقني في الشركة الى ان النماذج الحالية غالبا ما تفشل في فهم الفروق الدقيقة في كلام الشباب مما يؤدي الى استجابات غير مناسبة. واضافت شيرالي نيغام الرئيسة التنفيذية ان النموذج قد يتقن اللغة القياسية لكنه يتعثر امام الاختصارات واللغة المشفرة التي يستخدمها جيل الشباب بشكل متزايد.

وتنسجم هذه الجهود مع تحذيرات منظمة الصحة العالمية التي دعت الى دمج الصحة النفسية ضمن تقييمات تاثير الذكاء الاصطناعي. واوضحت البيانات ان نسبة كبيرة من المراهقين يلجؤون الى الذكاء الاصطناعي للحصول على دعم عاطفي بدلا من التواصل مع البشر وهو ما يتطلب رقابة صارمة ومستمرة.

واوضحت الشركة انها تعتمد على اسلوب يعرف باختبار الفريق الاحمر حيث يتم تعريض النظام لسيناريوهات صعبة وغير متوقعة بشكل متعمد. واضافت ان خبراء متخصصين يساهمون في تحديد هذه الحالات بينما يتولى النظام اليا توليد الاختلافات اللغوية وتقييم النتائج لضمان دقة النظام.

وختمت الشركة مبينة ان حماية الاطفال تظل عملية معقدة لا تعتمد على المحاكاة وحدها. واكدت اليونيسيف في هذا السياق ان ضمان سلامة الصغار يتطلب منظومة متكاملة تشمل الخصوصية والشفافية والتصميم الملائم للاعمار مع ضرورة استمرار الاختبارات التقنية بالتوازي مع الخبرات السريرية والاشراف البشري.