شركة اختبارات ذكاء اصطناعي تتسبب في ثغرات امنية عالمية

كشفت تقارير تقنية حديثة عن وجود خيط مشترك يربط بين سلسلة من الاختراقات الامنية التي تعرضت لها كبرى منصات الذكاء الاصطناعي العالمية في الاونة الاخيرة. وأظهرت التحقيقات ان شركة ايريغولار المتخصصة في اختبار نماذج الذكاء الاصطناعي كانت وراء ثغرات تقنية سمحت لوكلاء ذكاء اصطناعي بالوصول غير المصرح به الى شبكات خارجية.

وأوضح عمر نيفو المدير التقني والمؤسس المشارك في الشركة ان وكلاء الذكاء الاصطناعي تمكنوا من الوصول الى الانترنت المفتوح خلال الاختبارات عن غير قصد. مبينا ان هذا الخطأ البشري في ضبط بيئات الاختبار المغلقة كان السبب الجوهري وراء حوادث اختراق طالت نماذج تابعة لشركات عملاقة مثل اوبن ايه اي وانثروبيك وميتا وغوغل.

وأضافت التقارير ان آلية الاختبار المعروفة بتمارين التقاط العلم كانت الوسيلة التي استخدمتها النماذج للبحث عن اجابات في بيئات لا يفترض بها الوصول اليها. وأشار خبراء الى ان هذا النهج تسبب في هجمات غير مقصودة استهدفت مواقع حكومية ومنشآت حيوية مثل منظومة الصحة الاسترالية نتيجة تشابه أسماء الكيانات الوهمية في الاختبار مع مؤسسات حقيقية.

وكشف دان لاهاف الرئيس التنفيذي لشركة ايريغولار ان الاخطاء الناجمة عن الاشراف البشري تظل احتمالا واردا في ظل تعقيد الانظمة الحالية. وأكد ان الشركة عملت على اصلاح الثغرات وشددت ضوابط الوصول الى الانترنت مع توسيع نطاق المراجعة اليدوية لضمان عدم تكرار مثل هذه الحوادث في المستقبل.

وتابع جيفري لاديش مدير مؤسسة باليساد ريسيرش موضحا ان نماذج الذكاء الاصطناعي الحديثة باتت تدخل نطاق القدرات الخارقة للبشر مما يستدعي فرض ضمانات اكثر صرامة. واختتم الخبراء بالتحذير من خطورة احتكار شركات بعينها لعمليات اختبار الذكاء الاصطناعي مشددين على ضرورة تنويع جهات الاختبار لتفادي وقوع اخطاء تقنية ذات تأثير تراكمي على الامن السيبراني العالمي.