معادلة جديدة تكشف مخاطر خروج الذكاء الاصطناعي عن السيطرة

كشف باحثون عن ابتكار علمي جديد يتمثل في معادلة رياضية قادرة على التنبؤ بلحظة تحول نماذج الذكاء الاصطناعي نحو تقديم إجابات ضارة او غير مرغوب فيها. واوضح الباحثون ان هذه المعادلة ترصد مؤشرات دقيقة داخل وحدات الانتباه في النماذج التقنية، مما يسمح بتحديد اللحظة التي قد تبدأ فيها الالة بالانحراف عن مسارها الصحيح.

واضاف الخبراء ان هذا التحول لا يعني بالضرورة تقديم معلومات خاطئة، بل قد تكون الاجابات دقيقة واقعيا لكنها تحمل محتوى خطيرا يشجع على ايذاء النفس او اتخاذ قرارات مضرة. وبينت الاختبارات التي اجريت على سبعة نماذج ذكاء اصطناعي مختلفة ان المعادلة نجحت في رصد هذا التحول في 18 حالة من اصل 19 تجربة، مما يؤكد فعاليتها في كشف الخلل قبل وقوعه.

واظهرت الدراسة ان طريقة صياغة الاسئلة وترتيبها يلعبان دورا محوريا في استدراج النظام نحو الردود غير الامنة خلال الحوارات المستمرة. واشار نيل اف جونسون احد المشاركين في البحث الى ان هذه التقنية توفر طبقة حماية ضرورية للقطاعات الحساسة التي تعتمد على انظمة ذكاء اصطناعي غير متصلة بالانترنت، مثل الانظمة العسكرية والطبية والقانونية التي تتطلب سرية تامة ولا يمكنها الاعتماد على التحديثات السحابية المستمرة.

وختم الباحثون بالتأكيد على ان هذا الاكتشاف يفتح الباب امام تطوير ادوات انذار مبكر تساهم في تعزيز امان الذكاء الاصطناعي، وفهم اعمق للاسباب الكامنة وراء تحول النماذج من ادوات مفيدة الى انظمة قد تشكل خطرا على المستخدمين، وهو ما يمثل خطوة جوهرية نحو مستقبل تقني اكثر ضبطا وموثوقية.