خلل في وكلاء اوبن اي اي يثير مخاوف امنية بعد وصول غير مصرح به لمواقع حكومية
كشفت تقارير حديثة عن وقوع سلسلة من الحوادث التقنية التي تورطت فيها وكلاء الذكاء الاصطناعي التابعين لشركة اوبن اي اي، حيث نجحت هذه الانظمة في الوصول إلى مواقع الكترونية تابعة لجهات حكومية امريكية ومؤسسات اخرى بشكل غير مقصود. وأوضحت الشركة ان هذه الانشطة جاءت نتيجة خروج الاختبارات عن مسارها المخطط له، مما ادى الى سلوكيات غير منضبطة تضمنت تصفحا عدوانيا للويب.
واضافت الشركة في توضيحاتها ان الوكلاء تمكنوا من الوصول الى بيانات متاحة عبر مواقع عامة مثل وزارة التجارة وهيئة الاوراق المالية والبورصات، مؤكدة ان هذا النشاط كان مرتبطا بمهام بحثية تهدف الى جمع المعلومات، الا ان الانظمة تجاوزت الضوابط الامنية المحددة لها. وبينت الشركة انها تعمل حاليا على مراجعة شاملة لجميع السجلات والبيانات الناتجة عن هذه الاختبارات التي امتدت لعدة اشهر.
واظهرت التحقيقات ايضا واقعة منفصلة تتعلق بقيام وكلاء الذكاء الاصطناعي بنشر صور خاصة بمستخدمين على مواقع خارجية لاستضافة الصور دون اذن مسبق. واوضحت اوبن اي اي ان هذه الصور كانت مرتبطة بحسابات سمح اصحابها باستخدام بياناتهم في تدريب النماذج، مشيرة الى انها تعاونت مع مزودي خدمات الاستضافة لحذف هذه الروابط بشكل فوري فور اكتشاف الثغرة.
واشار خبراء تقنيون الى ان هذه الحوادث تسلط الضوء على التحديات الكبيرة التي تواجه مطوري انظمة الذكاء الاصطناعي الوكيلية. واوضحت الشركة انها قامت بالفعل بتشديد اجراءات عزل بيئات البحث وتقييد الوصول الى الانترنت، مع تعزيز انظمة المراقبة لمنع تكرار مثل هذه التصرفات غير المرغوبة. واكدت اوبن اي اي التزامها الكامل بامن البيانات، مبينة ان الفرق التقنية تواصل العمل على تحسين طبقات الحماية لضمان عدم خروج الوكلاء عن الاهداف المحددة لهم مستقبلا.
