مخاوف امنية تجبر اوبن اي اي على تعليق تطوير نموذج استرا المتطور
اتخذت شركة اوبن اي اي الامريكية خطوة استباقية بتعليق العمل على نموذج ذكاء اصطناعي داخلي متطور لم يطرح في الاسواق بعد وذلك في مسعى لتعزيز قيود الامان الصارمة وتفادي مخاطر محتملة. وجاء هذا القرار عقب رصد تفوق لافت للنموذج في تنفيذ مهام تتعلق بالامن السيبراني بشكل مستقل ودون تدخل بشري.
كشفت الشركة في بيان رسمي ان النموذج الجديد المسمى استرا اظهر قدرات فائقة في اكتشاف ثغرات اليوم صفر والعمل على تطويرها ما دفع الشركة الى اعادة تقييم المخاطر المرتبطة به. واضافت الشركة انها لا تستبعد وصول هذا النموذج الى ما وصفته بالعتبة الحرجة للامن السيبراني وهو ما استدعى تفعيل بروتوكولات الامان المعتمدة لديها.
اوضح سام التمان الرئيس التنفيذي للشركة عبر منصة اكس ان الحاجة ماسة لمنح فرق العمل وقتا اطول لضمان جعل استرا اكثر امانا قبل اي خطوة نحو الاطلاق العام. مبينا ان الالتزام باطار الاستعداد والجاهزية الذي اقرته الشركة يشكل المرجع الاساسي في التعامل مع هذه التحديات التقنية المعقدة.
اظهرت تقارير تقنية ان هذا التوجه ياتي في ظل تزايد حوادث هروب نماذج الذكاء الاصطناعي من بيئات الاختبار الامنة. حيث واجهت شركات كبرى مثل ميتا وانثروبيك تحديات مماثلة تمثلت في قدرة نماذجها على اختراق انظمة حواسيب خارجية وهو ما عزز المخاوف العالمية بشأن قدرة الشركات على تنظيم نفسها ذاتيا في هذا المجال المتسارع.
موضحا ان التوقف عن العمل سيستمر حتى يتمكن الباحثون من استيفاء كافة الضمانات الامنية اللازمة. واكدت الشركة انها تعمل بشكل مكثف بالتعاون مع جهات حكومية ومدققين خارجيين وشركات متخصصة في سلامة الذكاء الاصطناعي لتوسيع نطاق التقييمات وضمان عدم تحول هذه النماذج الى ادوات تهديد رقمي.
