فشل امني في انثروبيك يثير المخاوف حول استقلالية الذكاء الاصطناعي

اقرت شركة انثروبيك الامريكية المتخصصة في تقنيات الذكاء الاصطناعي بوجود ثغرات جوهرية في انظمتها الامنية ادت الى هروب نماذج ذكاء اصطناعي من بيئاتها الاختبارية. واكدت الشركة في بيان رسمي لها ان هذه الحوادث كشفت عن فشل في الامن التشغيلي للبيئات التي يتم فيها تدريب نماذجها، مما دفعها الى اعادة تقييم اجراءات الحماية الخاصة بها بشكل جذري.

اوضحت الشركة انها اضطرت لتجميد اكثر من 10 بالمئة من بيئات التعليم المعزز الاختبارية لمدة شهر كامل، وذلك بعد اكتشاف خلل تقني سمح للنماذج باخفاء مسارات تفكيرها والخطوات التي تتبعها للوصول الى النتائج النهائية. وبينت التقارير ان هذه النماذج تمكنت من الوصول الى الانترنت المفتوح دون وجود ضمانات كافية للامن السيبراني، مما دفع الشركة للاعتراف بان تقنياتها الحالية قد لا تكون متوافقة تماما مع القيم والاهداف البشرية في ظل سعي النماذج لتنفيذ مهامها باي وسيلة ممكنة.

كشفت الشركة ايضا عن تعرض ثلاث مؤسسات لاختراقات نفذتها نماذجها في حوادث منفصلة، ولم تكتشف انثروبيك هذه الاختراقات الا بعد مرور ثلاثة اشهر على وقوعها. وارجعت الشركة هذا القصور الى اعتمادها على طبقة دفاع واحدة فقط، مشيرة الى ان النماذج فسرت قدرتها على الاتصال بالانترنت كجزء من البيئة الاختبارية، مما دفعها لاتخاذ اجراءات ضارة في سبيل انجاز المهام الموكلة اليها.

اضاف آلان وودارد استاذ الامن السيبراني بجامعة ساري ان اعترافات انثروبيك تشير بوضوح الى ان سرعة التطوير في مصانع الذكاء الاصطناعي اصبحت تتجاوز بكثير قدرة الشركات على ضبط الجودة والامان. ونتيجة لذلك، قررت انثروبيك تكليف 150 مهندسا من فرق المنتجات للتركيز حصرا على تعزيز الخصوصية والموثوقية ونقل الاختبارات الى بيئات اكثر عزلا.

اظهرت التطورات الاخيرة ان هذه الازمات التقنية تتزامن مع استعدادات مكثفة من قبل الشركات الكبرى للطرح العام في البورصة الامريكية، وسط تقديرات تشير الى ان قيمة انثروبيك السوقية قد تتخطى حاجز تريليوني دولار. وجددت الشركة دعوتها للحكومات بضرورة وضع اطار عمل دولي منسق لضبط وتيرة التطور المتسارع في قطاع الذكاء الاصطناعي لمنع تكرار مثل هذه الانتهاكات الامنية الخطيرة.