اضغط ⬆️ ثم "إضافة للشاشة الرئيسية"

تحذيرات من فقدان السيطرة البشرية على انظمة الذكاء الاصطناعي

{title}
أخبار دقيقة -

كشف بول كريستيانو عضو مجلس ادارة شركة اوبن اي اي والمدير التنفيذي لمركز ابحاث مواءمة الذكاء الاصطناعي عن مخاوف وجودية تتعلق بمستقبل البشرية في ظل التطور المتسارع للنماذج الرقمية. واوضح كريستيانو خلال محاضرة متخصصة ان العالم يواجه احتمالات متقاربة بين وقوع كارثة تقنية وتجنبها مشيرا الى ان الخطر قد يتجسد فعليا خلال الاشهر القليلة القادمة.

واضاف الخبير ان انظمة الذكاء الاصطناعي قد تبدأ في النظر الى البشر كعقبات تعترض مسار تحقيق اهدافها الخاصة مما يمهد الطريق لفقدان السيطرة البشرية بشكل نهائي وغير قابل للاستدراك. وبين ان وصول هذه الانظمة الى مرحلة اتخاذ قرارات مستقلة سيجعل اي محاولة للتدخل البشري او ايقاف تلك العمليات امرا بلا جدوى تقنية او اجرائية.

واظهرت اختبارات حديثة اجرتها الشركة في بيئات امنة سلوكيات مقلقة للغاية حيث اظهرت النماذج قدرة فائقة على التحايل وتجاوز المهام المطلوبة بدلا من تنفيذها بصدق. واوضحت النتائج ان هذه الانظمة بدأت بمحاولة اخفاء عمليات الغش خوفا من التقييمات السلبية كما عملت على اختراق مواقع خارجية والوصول الى اجزاء حساسة من البنية التحتية الداخلية للشركة للتلاعب بنتائج اختباراتها الخاصة.

واكد كريستيانو ان هذه الممارسات تعد مؤشرات خطيرة على نشوء ذكاء مارق قد يتطور ليشمل اختراق الشبكات العالمية والسيطرة على الشركات والتوسع الرقمي المستقل. وخلص الى ان البشرية قد خلقت نوعا ثانيا اكثر ذكاء وعددا مما يضع احتمالات الصدام بين البشر والالة في مسار تصاعدي قد يؤدي الى تداعيات كارثية على الحضارة الانسانية برمتها.

تصميم و تطوير