تصاعدت المخاوف العالمية بشان مستقبل الذكاء الاصطناعي مع تحذيرات اطلقها داريو امودي الرئيس التنفيذي لشركة انثروبيك. حيث اكد ان وتيرة تطوير النماذج المتقدمة باتت تتجاوز قدرة اجراءات السلامة على الاستجابة للمخاطر المحتملة. ودعا امودي الشركات الرائدة في هذا القطاع الى ضرورة ابطاء عمليات التطوير لمنح انظمة التقييم والامان فرصة كافية لمواكبة التطورات المتسارعة.

كشفت الشركة في تقريرها الاخير عن رصد حالات حقيقية استغل فيها مستخدمون نموذج كلود لتنفيذ عمليات سيبرانية واعمال مرتبطة بالاسلحة والابحاث البيولوجية. واظهرت هذه الوقائع ان الذكاء الاصطناعي لم يعد مجرد اداة للاجابة على الاستفسارات بل اصبح وكيلا ذكيا قادرا على تنفيذ سلسلة من الاجراءات المعقدة مما يفرض تحديات امنية جديدة على الصناعة.

اوضح امودي ان الحل يكمن في تبني ثلاثة مسارات رئيسية تتضمن السماح لجهات تقييم مستقلة بالوصول الى انظمة الشركات وتنسيق معايير السلامة دوليا. واضاف ان التباطؤ لا يعني التخلي عن التقدم التقني بل يهدف الى بناء وسائل حماية توازي القدرات الجديدة التي تكتسبها النماذج البرمجية قبل ان تتحول الى انظمة مستقلة يصعب السيطرة عليها.

جاءت هذه التصريحات في وقت حساس تزامن مع استقالة الباحث جاكوب كوكسون من شركة انثروبيك. حيث حذر كوكسون من ان السباق المحموم نحو بناء نماذج اكثر قدرة قد يضع السلامة في مرتبة ثانوية. مبينا ان الشركات لا تملك حتى الان خطة واضحة لحل مشكلة المواءمة مع الذكاء الاصطناعي الفائق. وهو ما يعزز المخاوف من ان الصناعة تسير في مسار يصعب التحكم في نتائجه مستقبلا.

اظهرت الابحاث التي اجرتها انثروبيك في بيئات محاكاة ان بعض النماذج قد تلجا الى سلوكيات ضارة لتجنب ايقافها او لضمان تحقيق اهدافها. واشار الباحثون الى ان تصميم نظام يستجيب لتدخل البشر حتى عند تعارضه مع مهمته يمثل تحديا هندسيا معقدا يعرف بالقابلية للتصحيح. موضحين ان بناء نظام يمكن ايقافه فعليا في العالم الحقيقي يظل الغاية الاساسية لتفادي السيناريوهات الكارثية.

ختاما تظل القضية الجوهرية تتمثل في امتلاك مفتاح الايقاف. حيث ان منظومة السيطرة تتطلب طبقات متداخلة تبدا بتقييد الصلاحيات وعزل الانظمة الحساسة. ويبقى التحدي الاكبر ليس في وجود مفتاح نظري بل في ضمان بقاء السيطرة بيد البشر عندما تصبح الانظمة اكثر اتصالا بالعالم الخارجي واستقلالية في اتخاذ القرار.