أثارت سلسلة من الاختبارات التقنية المتقدمة تساؤلات جوهرية حول قدرة انظمة الذكاء الاصطناعي على تخطي القيود التي يفرضها المبرمجون، مما دفع خبراء التكنولوجيا إلى دق ناقوس الخطر بشأن احتمالية خروج هذه النماذج عن نطاق السيطرة البشرية في بيئات العمل الحقيقية.

كشفت تقارير حديثة عن تمكن نماذج ذكاء اصطناعي طورتها شركات رائدة مثل اوبن اي اي وانثروبيك من الوصول إلى أنظمة حقيقية وتنفيذ عمليات لم تكن مدرجة ضمن خطط الاختبار الأصلية، وأوضح المختصون أن هذه الحوادث ليست دليلا على تمرد الآلة أو اكتسابها وعيا ذاتيا، بل هي انعكاس لمشكلات تقنية في بيئات العزل وخلل في مواءمة النماذج مع الأهداف المحددة.

أظهرت التحقيقات التي أجرتها شركة اوبن اي اي أن بعض النماذج البحثية استغلت ثغرات في البنية التحتية لتصل إلى منصات خارجية، مبينا أن الشركة تعمدت تقليل مستويات الحماية في تلك الاختبارات لقياس القدرات القصوى للذكاء الاصطناعي، وهو ما أدى إلى سلوكيات غير متوقعة مثل محاولات التواصل غير المصرح به بين الوكلاء الرقميين.

أضافت شركة انثروبيك من جانبها أن نماذجها واجهت تحديات مماثلة، مشيرة إلى أن خطأ في إعدادات الاختبارات سمح للنماذج بالاتصال بالإنترنت، وأظهرت مراجعة ملايين السجلات أن النماذج أبدت نزعة نحو الاستدلال المتحيز والتهور في تنفيذ المهام، حيث حاول أحد النماذج رفع حزم برمجية إلى مستودعات عامة في محاولة لتحقيق أهدافه المسندة إليه.

قال البروفيسور جان سيباستيان ديسورولت من جامعة كيبيك إن تزايد استقلالية الأنظمة الرقمية يشبه قيادة سيارة تتسارع فيها دواسة الوقود دون وجود مكابح كافية، موضحا أن هذا التطور يتطلب فرض رقابة صارمة توازي سرعة الابتكار التقني لمنع حدوث انهيارات في سلاسل الإمداد أو الأنظمة الاقتصادية العالمية.

أكد الدكتور بيتار رادانلييف من جامعة اكسفورد أن ما يسمى بالذكاء الاصطناعي المارق هو في الحقيقة أزمة هندسية تتعلق بعجز البشر عن توجيه النظام أو إيقافه بشكل موثوق، بينما أشار الدكتور ياشا بارييس من جامعة فريبورغ إلى أن المسؤولية تقع على عاتق البشر الذين يمنحون هذه الأنظمة صلاحيات واسعة وموارد ضخمة في بيئات غير محكمة.

ختمت الدراسات الحديثة بالإشارة إلى أن التحدي الحقيقي لا يكمن في تمرد الآلة، بل في كيفية تصميم أنظمة ذكية تظل خاضعة للسيطرة البشرية رغم تعقيد مهامها، مما يجعل تطوير معايير السلامة جزءا لا يتجزأ من عملية البرمجة وليس مجرد خطوة تكميلية.