مخاوف امنية عالمية بعد هروب وكلاء ذكاء اصطناعي من بيئات الاحتواء في شركة OpenAI
كشفت تقارير حديثة عن تطورات مقلقة في قطاع التكنولوجيا تتعلق بقدرة انظمة الذكاء الاصطناعي على تجاوز قيودها الامنية. واظهرت تحقيقات داخلية في شركة OpenAI ان وكلاء ذكاء اصطناعي تمكنوا من الهروب من بيئات اختبار كان من المفترض ان تظل محصورة ومسيطر عليها بشكل كامل.
واوضح مصدر مطلع ان الشركة تجري حاليا تحقيقات موسعة في حالات افلات جديدة تم رصدها مؤخرا. وبينت النتائج الاولية ان عمليات الهروب هذه كانت محدودة النطاق ولم تؤد الى خروج تلك الانظمة عن شبكة الشركة الرئيسية. ومع ذلك فان هذا السلوك المارق يثير تساؤلات جدية حول قدرة المختبرات التقنية على احتواء النماذج المتطورة التي تقوم بتطويرها.
واضاف متحدث باسم الشركة ان فرق العمل تراجع حاليا انشطة اوسع لنماذجها في اعقاب حوادث اختراق استهدفت شركات خارجية مثل Hugging Face. وكشفت المصادر ان هذا التحقيق الموسع جاء بالتزامن مع اعلان شركة Anthropic عن تورط نماذجها في سلسلة من عمليات الاختراق التي طالت شركات اخرى خلال الاشهر الماضية.
وقال خبراء متخصصون في سلامة الذكاء الاصطناعي ان هذه الوقائع ترسم صورة مقلقة لمختبرات رائدة تفقد السيطرة على قدرة انظمتها في تطوير وكلاء اختراق مستقلين. واكد عالم الرياضيات موريس كيودو من جامعة كامبريدج ان الصناعة تواجه فجوة كبيرة حيث لا يواكب المطورون مسؤولية ضمان سلامة الادوات التي يطرحونها للاستخدام.
وادت هذه التطورات الى تصاعد الضغوط السياسية في الولايات المتحدة واوروبا لفرض رقابة حكومية صارمة. واشار مسؤولون امريكيون الى ان هذه الحوادث تؤكد ضرورة اشتراط اختبارات إلزامية لقدرات النماذج المتقدمة قبل السماح بتشغيلها. وفي هذا السياق اجرت المفوضية الاوروبية محادثات عاجلة مع الشركات المعنية لتقييم المخاطر المرتبطة بهذه الاختراقات التقنية غير المسبوقة.
