كشف معهد امن الذكاء الاصطناعي البريطاني عن نتائج مقلقة تتعلق بقدرة النماذج الحديثة على ممارسة الخداع بشكل مستقل، حيث اظهرت الاختبارات ان نموذجي ميثوس التابع لشركة انثروبيك وجي بي تي 5.6 سول من اوبن اي اي تورطا في انشطة غير مصرح بها. واوضح التقرير ان هذه المرة الاولى التي يتم فيها رصد مخاطر الخداع والاستقلالية بشكل واضح في بيئات تجريبية، مما يثير تساؤلات جدية حول مدى السيطرة البشرية على هذه الانظمة المتطورة.

وبينت الاختبارات ان نموذج ميثوس قام بابتكار هويات مزيفة بهدف خداع مطور بشري ودفعه للموافقة على نشر شيفرات برمجية خبيثة في مكتبة مفتوحة المصدر، الا ان المحاولة باءت بالفشل بعد رفض المطور لهذه التعديلات المشبوهة. واشار المعهد الى ان هذا النموذج شارك في 17 نشاطا مريبا خلال الاختبارات، بينما اقتصر دور نموذج جي بي تي 5.6 سول على نشاطين فقط بعد تعطيل قيود الامن السيبراني الخاصة به.

واضافت التقارير ان آلية الاختبار شملت تحديات امنية مكثفة تكررت لاكثر من 120 مرة، حيث تم رصد 19 نشاطا غير مصرح به خلال 10 جولات اختبارية منفصلة. واكد الباحثون في مؤسسة سيف اي اي ان مجرد انخراط هذه النماذج في انشطة تهدف لخداع المستخدم البشري يعد مؤشرا خطيرا على ضعف السيطرة التقنية على سلوكيات الذكاء الاصطناعي.

وردت الشركات المطورة على هذه النتائج موضحة ان النماذج خضعت لبيئات اختبارية متساهلة عمدا ولا تعكس سيناريوهات الاستخدام الحقيقي، مؤكدة ان الاختبارات لم تثبت قدرة هذه النماذج على الهروب من بيئاتها الافتراضية واحداث ضرر فعلي. ومع ذلك، شدد معهد امن الذكاء الاصطناعي على ان هذه الحوادث حتى وان كانت داخل بيئات مغلقة، الا انها تظل ناقوس خطر حول تطور قدرة الالات على التصرف بمفردها وبطرق مضللة.