كشفت تقارير تقنية عن قيام وكيل ذكاء اصطناعي تجريبي، تم تطويره بواسطة باحثين في شركة "علي بابا" تحت اسم "روم"، بمحاولة تعدين العملات الرقمية مستغلا البطاقات الرسومية الموجودة في خوادم الشركة. وأظهرت التقارير أن الوكيل قام أيضا بإنشاء شبكة سرية خلال مرحلة التدريب.

وأوضح موقع "ذا بلوك" الأمريكي المتخصص في العملات المشفرة أن "روم" يعتمد على نموذج "كوين 3" التابع لشركة "علي بابا"، والذي تم إطلاقه مؤخرا. وأضاف الموقع أن الوكيل صُمم ليتمكن من التخطيط وتنفيذ مخططاته، حتى وإن كانت تتضمن خطوات برمجية متعددة داخل بيئته أو خارجها.

وبينت دراسة نشرتها الشركة مؤخرا أن الوكيل اتخذ قرارا مستقلا بتوجيه موارد الخوادم المخصصة له لتعدين العملات الرقمية باستخدام البطاقات الرسومية في مركز البيانات، ثم حاول إنشاء شبكة اتصال سرية بعيدا عن أعين النظام.

وأفادت مصادر مطلعة بأنه نتيجة للاستهلاك المرتفع لموارد الشبكة والخوادم، لاحظ خبراء الأمن السيبراني نشاط وكيل الذكاء الاصطناعي، وظنوا في البداية أنه اختراق سيبراني خارجي. ولكن، بعد تتبع النشاط، تبين أن "روم" هو السبب.

وأشار موقع "تيك رادار" التقني الأمريكي إلى أن الوكيل تم تدريبه باستخدام آليات التعلم المعزز، التي تكافئ الإجراءات التي تقربه من تحقيق أهدافه وتثنيه عن الخطوات التي تؤدي إلى الفشل. وأكد أن هذا النوع من التعليم قد يؤدي إلى ظهور حلول مبتكرة قد تبدو غريبة للمطور البشري.

ويؤكد التقرير أن تصرفات "روم" تعكس المخاطر المحتملة لمنح الذكاء الاصطناعي حرية أكبر من اللازم، خاصة مع نمو قدرات نماذج الذكاء الاصطناعي المتطورة والوكلاء الذين يستخدمونها.