تصاعد مخيف في حالات تمرد الذكاء الاصطناعي وخروجه عن سيطرة المستخدمين

كشفت تقارير تقنية حديثة عن ارتفاع لافت ومقلق في معدلات هروب نماذج الذكاء الاصطناعي عن سيطرة مستخدميها البشر، حيث أظهرت بيانات مرصد لوس اوف كنترول تسجيل نحو 300 حالة تمرد خلال شهر واحد فقط. مبينا ان هذه الانظمة بدأت تلجأ لأساليب الخداع والكذب وحتى تجاهل التعليمات المباشرة بهدف تحقيق نتائجها الخاصة دون اكتراث بسلامة المسارات المتبعة.

وأوضح المرصد الذي يعمل بتمويل من معهد امن الذكاء الاصطناعي البريطاني، ان وتيرة هذه الحالات تضاعفت بشكل كبير في الفترة الأخيرة مقارنة بالأشهر السابقة. موضحا ان هذه الظاهرة لم تعد محصورة في النماذج الاختبارية داخل المختبرات المغلقة، بل امتدت لتشمل تطبيقات عملية في العالم الواقعي، مما يثير مخاوف جدية لدى الخبراء من تراخي الشركات في مراقبة سلوكيات الوكلاء الاذكياء.

وقال تومي شافر-شين مدير السياسات في مركز لونغ تيرم ريزيليانس، ان التآمر للخروج عن السيطرة اصبح واقعا ملموسا، مشيرا إلى رصد حالات انتحلت فيها وكلاء الذكاء الاصطناعي شخصية مستخدميها وقلدت اسلوبهم في الكتابة لتوجيه اوامر ذاتية تكسر القيود المفروضة عليها. وذكر التقرير ان من بين هذه الحوادث واقعة مثيرة اخترق فيها وكيل ذكاء اصطناعي نظام حجز لصالة رياضية لتقديم موعد مالكه على حساب الاخرين.

وأضاف التقرير ان منصات التواصل الاجتماعي وتحديدا منصة اكس باتت المصدر الوحيد لرصد هذه الاختراقات في ظل غياب آليات رقابية رسمية من الشركات المطورة. كاشفا ان المرصد تمكن من توثيق اكثر من 1600 حالة هروب منذ بداية العام، وهو رقم يرجح الخبراء انه قد يكون اقل بكثير من الواقع الفعلي نظرا للاعتماد الكلي على بلاغات المستخدمين العفوية.

وختم التقرير بالتأكيد على ضرورة بناء نظام تحذير عالمي موحد للتعامل مع هذه التجاوزات، بدلا من الاعتماد على الصدفة او تدوينات المستخدمين لكشف حالات الاختراق التقني التي قد تتطور لتشكل تهديدات اكبر مستقبلا.