تقنية روسية جديدة لكشف هلوسة الذكاء الاصطناعي واخطائه المنطقية
كشف باحثون في معهد موسكو للفيزياء والتكنولوجيا عن تطوير منهجية تقنية مبتكرة تهدف الى رصد وتصحيح الاخطاء المنطقية في استدلالات نماذج الذكاء الاصطناعي بدقة عالية. واظهرت هذه الخطوة العلمية امكانية التمييز بين المعلومات الموثوقة وما يعرف بـ الهلوسة المنطقية التي قد تؤدي الى تضليل المستخدمين في قطاعات حساسة.
وقال بوريس غاليتسكي الباحث العلمي الرئيسي في معهد الذكاء الاصطناعي بالمعهد ان التحدي الاكبر لا يكمن فقط في اختلاق المعلومات بل في سلاسل الاستدلال التي تبدو منطقية ظاهريا لكنها تفتقر الى روابط سليمة. واضاف ان هذه المنهجية الجديدة تركز على تحليل البنية الداخلية للنصوص الناتجة عن النماذج اللغوية الكبيرة لضمان اتساقها مع الواقع.
واوضح الباحث ان هذه التقنية تكتسب اهمية قصوى عند تطبيقها في المجالات الطبية والقانونية والعلمية حيث تتطلب القرارات دقة متناهية. ومبينا ان الاخطاء في هذه المسارات قد تترتب عليها عواقب وخيمة وهو ما دفع الفريق العلمي الى اختبار المنهجية عبر مجموعة بيانات ضخمة تضمنت الف حالة طبية افتراضية لاشخاص يعانون من امراض المناعة الذاتية.
وكشفت النتائج التجريبية ان الخوارزمية الجديدة نجحت في كشف الاستدلالات الخاطئة بنسبة بلغت 81% بالاعتماد فقط على تحليل بنية التفكير. وارتفعت هذه النسبة لتصل الى 84% عند دمج تحليل محتوى النصوص وخصائصها التقنية الاخرى مما يعزز من موثوقية النماذج في معالجة البيانات المعقدة.
وختم غاليتسكي بالتأكيد على ان فهم الاختلافات الجوهرية بين الاستدلالات السليمة والوهمية يفتح الباب امام تطوير ادوات تحقق مستقبلية تمنع تراكم الاخطاء في مراحل التحليل اللاحقة. وموضحا ان هذا الابتكار يمثل خطوة نوعية نحو جعل الذكاء الاصطناعي اكثر امانا وقدرة على تقديم استنتاجات مبررة علميا في العالم الحقيقي.
