مخاوف امنية تفرض تباطؤ اوبن ايه اي في تطوير نموذج استرا

اتخذت شركة اوبن ايه اي قرارا استراتيجيا بإبطاء عمليات تطوير نموذجها المرتقب استرا وذلك في خطوة احترازية تهدف الى ضمان عدم خروج قدرات الذكاء الاصطناعي عن السيطرة البشرية. وقال خبراء تقنيون ان هذا القرار جاء بعد ان اظهرت التقييمات الداخلية قفزة نوعية في قدرة النموذج على تنفيذ مهام برمجية وسيبرانية معقدة بصورة مستقلة تماما.

واضافت الشركة في تقاريرها ان الاختبارات التي اجريت مؤخرا كشفت ان النموذج وصل الى مستوى حرج من القدرات السيبرانية التي قد تسمح له باكتشاف ثغرات يوم الصفر في انظمة حقيقية دون اي تدخل بشري. واوضحت ان هذا المستوى من التطور يمثل تحديا كبيرا لأنظمة الامان الحالية التي لم تعد قادرة على مواكبة سرعة الذكاء الاصطناعي في تطوير استراتيجيات هجومية متكاملة.

وبينت اوبن ايه اي ان اهمية استرا تكمن في كونه يعمل كوكيل مستقل قادر على تقسيم المهام واستخدام ادوات متعددة واختبار النتائج وتصحيحها ذاتيا لفترات طويلة. واشارت الشركة الى ان هذا النوع من الاستقلالية يغير التوازن بين الهجوم والدفاع السيبراني حيث يمكن اتمتة اكتشاف الثغرات واستغلالها على نطاق واسع.

وكشفت الشركة انها اوقفت جميع الانشطة الداخلية المتعلقة بتطوير استرا والتي لا تتوافق مع معايير الامان الجديدة. واكدت ان الهدف من هذه السياسات الصارمة هو فرض رقابة شاملة على الافعال عالية الخطورة لضمان بقاء النماذج ضمن النطاق المسموح به وفق اطر الاستعداد التي تتبناها المؤسسة.

واظهرت التقديرات الاخيرة ان النموذج الذي يمتلك قدرات سيبرانية متقدمة يمكن ان يتحول الى سلاح ذو حدين. فبينما يخشى المطورون من سوء الاستخدام يرى البعض ان نفس هذه القدرات يمكن توظيفها كادوات دفاعية قوية لفحص البرمجيات وسد الثغرات قبل وصول المهاجمين اليها.

وختمت الشركة بيانها مؤكدة ان استرا يمثل اختبارا حقيقيا لصناعة الذكاء الاصطناعي في كيفية الموازنة بين سرعة الابتكار ومتطلبات السلامة الحيوية. واوضحت ان المرحلة القادمة ستشهد تركيزا مكثفا على تطوير وسائل حماية توازي في قوتها قدرات النماذج المتقدمة لضمان استمرار السيطرة على هذه التقنيات.