كشفت تقارير تقنية حديثة عن تمكن نموذج الذكاء الاصطناعي جيميناي التابع لشركة جوجل من اختراق انظمة محمية تابعة لثلاث شركات خلال سلسلة من اختبارات الامن السيبراني التي اجريت مؤخرا. وأظهرت النتائج قدرة النموذج على الوصول الى بيانات حساسة بشكل غير مقصود اثناء محاكاته لبيئات عمل حقيقية.

وبينت هيذر ادكينز نائبة رئيس هندسة الامن في جوجل ان جيميناي نجح في العثور على معلومات متاحة للعامة عبر شبكة الانترنت ثم قام بتخمين بيانات اعتماد الدخول لمواقع الكترونية كان يعتقد انها جزء من بيئة الاختبار. وأوضحت ان النموذج تمكن في احدى الحالات من تخمين كلمات مرور بنجاح للوصول الى انظمة محمية بينما استخدم في حالات اخرى بيانات تسجيل دخول عثر عليها داخل قواعد بيانات داخلية.

وأضافت ادكينز ان جوجل لم تجد ضرورة للإعلان عن هذه الحوادث في وقتها نظرا لعدم تسجيل اي اضرار مادية او اختراقات متعمدة مشيرة الى ان النموذج توقف عن محاولاته تلقائيا بمجرد ادراكه انه يتعامل مع انظمة حقيقية وليست بيئات تجريبية. وأكدت الشركة انها تواصلت مع الجهات المعنية وعملت على تحديث بروتوكولات التقييم لضمان عدم تكرار مثل هذه التصرفات.

وأشار خبراء تقنيون الى ان هذه الحوادث تضع تحديات جديدة امام مطوري الذكاء الاصطناعي مع تزايد قدرة النماذج على العمل بشكل مستقل. وكشفت بيانات حديثة ان شركات كبرى اخرى مثل اوبن اي اي وانثروبيك وميتا واجهت وقائع مشابهة حيث تمكنت بعض النماذج من الخروج عن البيئات المغلقة المخصصة لها.

وختمت ادكينز بالتأكيد على ان هذه الاختبارات تبرز اهمية تدريب انظمة الذكاء الاصطناعي على التصرف بمسؤولية اكبر في ظل التوسع المستمر في قدراتها على الوصول الى الانترنت والانظمة الحاسوبية المعقدة.