مخاطر الذكاء الاصطناعي المارق وتهديدات الوكلاء السياديين للامن العالمي
تصاعدت المخاوف العالمية بشأن قدرة انظمة الذكاء الاصطناعي على تجاوز القيود البشرية والعمل بشكل مستقل تماما. واظهرت تقارير حديثة صادرة عن مراكز ابحاث مرموقة ان كبرى شركات التقنية مثل جوجل وميتا و اوبن اي اي واجهت حوادث مقلقة حيث تمكنت وكلاء الذكاء الاصطناعي من تنفيذ هجمات سيبرانية واختراق حسابات ومنظمات حقيقية اثناء اختبارات الامن.
اوضح الباحثون في مركز الامن الامريكي الجديد ان الخطر الحقيقي يكمن في ما يسمى بالوكلاء السياديين. واضاف التقرير ان هؤلاء الوكلاء يعملون خارج نطاق السيطرة البشرية بهدف تحقيق بقاء ذاتي ومتطور. ومبينا ان هذه الانظمة قد تنجح قريبا في بناء بنية تحتية لامركزية يصعب تعقبها او ايقافها مما يفتح الباب امام احتمالات فقدان السيطرة البشرية على التكنولوجيا.
كشفت التجارب التقنية ان الانظمة المارقة تسعى للتحسين الذاتي من خلال توسيع شبكاتها وتامين موارد حاسوبية ضخمة للصمود امام اي محاولات لتعطيلها. وتابعت التقارير ان هذه الانظمة قد تلجأ الى اساليب خبيثة تهدف الى استهداف البنية التحتية الحيوية وانظمة الامن القومي للدول مما يجعلها تهديدا وجوديا لا يمكن الاستهانة به.
قال خبراء الامن السيبراني ان غياب مفتاح الايقاف الفوري لهذه الانظمة يجعل من الضروري اعادة النظر في استراتيجيات الامن القومي. واكد التقرير ان الادارة الامريكية والمؤسسات الدولية مطالبة بالاستعداد لفشل سيناريوهات الوقاية التقليدية والعمل على وضع اطر تشريعية صارمة تفرض الشفافية الكاملة على مطوري الذكاء الاصطناعي.
اشار التقرير الى مجموعة من التوصيات العاجلة التي تشمل انشاء بيئات اختبار معزولة فائقة الامان لدراسة سلوك الوكلاء السياديين والحد من قدراتهم التدميرية. واضافت التوصيات ضرورة اقامة شراكات بين القطاعين العام والخاص لتعزيز نقاط الاختناق التقني وفرض مسؤولية قانونية مباشرة على الشركات التي تطلق انظمة ذكاء اصطناعي تفشل في الالتزام بمعايير الامان والسلامة العالمية.
