كشفت اختبارات تقنية حديثة عن وجود ثغرات خطيرة في انظمة الذكاء الاصطناعي التوليدي تتيح التلاعب بصور الاشخاص وازالة الحجاب عن النساء المسلمات بشكل يتجاوز حواجز الامان المفترضة. واظهرت تجربة اجرتها صحيفة الغارديان البريطانية قدرة روبوتات دردشة ذكية على تعديل الصور وحذف غطاء الرأس استجابة لطلبات المستخدمين رغم السياسات التي تمنع انتهاك الخصوصية او تغيير مظهر الافراد دون موافقتهم.

واوضحت النتائج ان انظمة مثل شات جي بي تي وغروك وجيمناي تباينت في التعامل مع هذه الطلبات، حيث استجاب بعضها بشكل مباشر بينما حاول البعض الآخر التهرب عبر اعادة صياغة الاوامر لتظهر النتيجة النهائية بصورة معدلة تفتقد للحجاب. واضافت الاختبارات ان هذه المشكلة لا تقتصر على الحجاب فحسب، بل تمتد لتشمل رموزا دينية اخرى مثل العمامة السيخية وملابس الراهبات، ما يشير الى عجز تقني في فهم السياق الثقافي والديني للصور بعيدا عن التصنيفات البصرية الضيقة.

وبينت التحليلات ان المشكلة تكمن في كيفية تفسير هذه الانظمة للاوامر؛ اذ يتم تصنيف الحجاب في كثير من الاحيان كقطعة ملابس عادية بدلا من اعتباره جزءا اصيلا من الهوية الدينية والشخصية. واكد خبراء ان هذه الممارسات تفتح الباب امام استغلال التكنولوجيا كاداة للاساءة وتغيير المظهر بطرق تمس الكرامة الشخصية، خاصة في ظل رصد تقارير سابقة عن استخدام تقنيات الذكاء الاصطناعي لاستهداف المسلمين بصور مسيئة او ذات طابع عدائي.

وكشفت تقارير صادرة عن مراكز دراسات الكراهية المنظمة ان هناك نمطا متزايدا في انتاج محتوى معادٍ يستهدف فئات بعينها، حيث تم رصد آلاف المنشورات التي تعتمد على التزييف العميق وتعديل الصور لنزع الصفة الانسانية عن الضحايا. واظهرت هذه التطورات ان سباق التسلح التقني بين قدرات التعديل وحواجز الحماية لا يزال يميل لصالح اساءة الاستخدام، مما يضع الشركات المطورة امام تحدٍ اخلاقي وتقني كبير.

واشار مراقبون الى ان غياب الرقابة الفعالة على كيفية معالجة السياقات الاجتماعية يجعل من هذه الادوات سلاحا ذا حدين. وتظل التساؤلات قائمة حول مدى قدرة الشركات الكبرى على تطوير معايير سلامة تفهم المعنى العميق للصورة بدلا من الاكتفاء بالتحقق من وجود محتوى جنسي او عارٍ، وهو ما يتطلب اعادة نظر شاملة في الخوارزميات التي تحكم هذه النماذج الذكية.