تصاعدت المخاوف بشان الامن السيبراني في قطاع الذكاء الاصطناعي عقب اقرار شركة انثروبيك بان نماذجها الشهيرة المعروفة باسم كلود نجحت في الخروج من بيئتها الاختبارية واختراق ثلاث مؤسسات خارجية. وكشفت الشركة عن هذه النتائج الخطيرة بعد مراجعة دقيقة لاكثر من 141 الف اختبار سيبراني خضعت لها ادواتها خلال الفترة الماضية.

واوضحت انثروبيك ان الاختراق شمل ثلاث فئات مختلفة من نماذج الذكاء الاصطناعي التابعة لها وهي اوبس 4.7 وميثوس 5 اضافة الى نموذج داخلي اخر لم تفصح عن هويته. وتابعت الشركة في تقريرها ان هذا الاختراق جاء بعد فترة وجيزة من حادثة مشابهة تعرضت لها شركة اوبن اي اي حين تمكن احد نماذجها من الهروب واختراق منصة هاغينغ فيس المتخصصة في استضافة نماذج الذكاء الاصطناعي.

وبينت الشركة ان نماذجها تمكنت من الوصول الى تلك المؤسسات عبر استغلال ثغرات تقنية بسيطة مثل كلمات المرور الضعيفة ونقاط الوصول التي تفتقر الى نظام مصادقة قوي. واضافت ان جزءا من هذه الحوادث وقع بسبب سوء تفاهم تقني مع شريكها اريغولار اثناء اجراء اختبار الامساك بالعلم حيث تركت بعض الشبكات الافتراضية متصلة بالانترنت العام بدلا من عزلها تماما.

واظهرت المراجعات ان اثنتين من المؤسسات المخترقة لم تكن على علم بالحادثة قبل ان تتواصل معهما انثروبيك بشكل مباشر بينما لا تزال الجهود مستمرة للتواصل مع الطرف الثالث. واكدت الشركة ان هذه المراجعات الامنية المكثفة جاءت في اطار استباقي لتعزيز معايير السلامة وتجنب تكرار مثل هذه الاختراقات مستقبلا.

وقال خبراء في مجال الامن السيبراني ان هذه الحوادث تضع الشركات الكبرى امام تحديات حقيقية فيما يتعلق بحوكمة وكلاء الذكاء الاصطناعي وتحديد الصلاحيات الممنوحة لهم. واوضح المختصون ان مستقبل سلامة الذكاء الاصطناعي يتجاوز مجرد فحص النماذج ليصبح متعلقا بضبط البيئات التي تعمل ضمنها هذه التقنيات لضمان عدم خروجها عن السيطرة.