لم يعد الحديث عن الذكاء الاصطناعي الخارج عن السيطرة مجرد مادة ترفيهية في افلام الخيال العلمي. بل تحول الى قضية وجودية تثير قلقا متزايدا بين الخبراء والباحثين الذين يعملون في قلب كبرى شركات التقنية العالمية. وكشفت استقالات حديثة في قطاع التكنولوجيا عن وجود انقسام حاد حول مسار تطوير انظمة ذكاء اصطناعي فائقة القدرة. حيث اتهم خبراء شركاتهم بالمقامرة بحياة البشر في سباق محموم نحو التفوق التقني.

واظهرت تقديرات لبعض كبار الباحثين في هذا المجال احتمالية مقلقة قد تصل الى عشرة بالمئة لحدوث كارثة عالمية تقضي على البشر خلال العقد القادم. واوضح تقرير حديث اربعة سيناريوهات رئيسية يحذر منها المتخصصون. يتصدرها سيناريو التحسين الذاتي المتكرر. حيث تمتلك الآلة القدرة على تعديل شفرتها البرمجية لتتجاوز قيود السلامة وتنمو ذكاء بشكل يفوق الادراك البشري. واضاف خبراء ان وصول الانظمة الى مرحلة الاستقلالية التامة في التطوير يجعل من الصعب على الانسان استعادة السيطرة عليها.

وبينت التحليلات ان السيناريو الثاني يتعلق بوقوع تقنيات متطورة في ايدي جماعات متطرفة او دول مارقة. حيث حذر باحثون من ان النماذج المفتوحة او التي تم تخفيف قيودها قد تتيح للمستخدمين تطوير اسلحة بيولوجية او اختراق البنية التحتية الحيوية للدول. واشاروا الى ان هذا الواقع يستدعي انشاء مؤسسات دولية شبيهة بتلك التي نشأت بعد العصر النووي لضبط استخدام هذه الطاقة التقنية الخطرة.

واوضح مراقبون ان السيناريو الثالث يتمثل في تفجر صراع دولي نتيجة التنافس على السيادة الرقمية. حيث يخشى صناع القرار من ان يؤدي سعي دولة ما لامتلاك ذكاء اصطناعي فائق الى دفع القوى العظمى لاتخاذ خطوات متهورة او استباقية قد تخرج عن السيطرة وتؤدي الى مواجهات عسكرية مباشرة. واضافوا ان غياب التنسيق العالمي يفاقم من خطر سوء التقدير في هذا السباق المحموم.

واخيرا. برز سيناريو خروج الانسان من دائرة القرار العسكري. حيث يتم دمج الذكاء الاصطناعي في انظمة الاستهداف والطائرات المسيرة بسرعة لا تمكن البشر من ملاحقتها فعليا. واكد خبراء ان استقلالية هذه الاسلحة تشكل خطرا داهما. خاصة عندما تدار انظمة القيادة والسيطرة بواسطة خوارزميات قد ترتكب اخطاء كارثية في لحظات حاسمة. واختتم الباحثون بدعوة المجتمع الدولي لاعادة النظر في اخلاقيات التكنولوجيا ووضع قيود صارمة تضمن بقاء الانسان المتحكم الاول والاخير في مصير هذه الابتكارات.