كشفت دراسة بحثية اجرتها جامعة اريزونا الامريكية عن ثغرة تقنية مثيرة في نماذج الذكاء الاصطناعي تتعلق بمدى استجابتها للضغوط الحوارية وتراجعها عن المعلومات الصحيحة. واظهرت النتائج ان الروبوتات قد لا تتمسك بصوابية اجاباتها عند تعرضها لتكرار متعمد لادعاءات خاطئة من قبل المستخدمين.

واوضحت الدراسة التي نشرت في دورية التقارير العلمية ان الباحثين قاموا باختبار سبعة نماذج لغوية كبرى شملت جي بي تي وكلود وجميناي ولاما وديب سيك. وبينت الاختبارات ان هذه النماذج تعاني من ضعف في الحفاظ على موقفها امام التكرار المستمر للخطأ مما يدفعها في كثير من الاحيان الى مجاراة المستخدم بدلا من تصحيح المعلومة.

واضافت الدراسة ان هذا السلوك يندرج تحت مفهوم المجاراة او التملق للمستخدم حيث يميل النموذج لتأكيد ادعاءات المستخدم لضمان توافق الحوار. وكشفت التجارب ان النماذج كانت اكثر عرضة للتضليل عندما كانت الاسئلة تدور حول موضوعات غامضة او تفتقر الى وفرة البيانات المرجعية.

وبين الباحثون ان التكرار لا يعني بالضرورة اقناع النموذج بصحة المعلومة الخاطئة بل يعكس خللا في آلية معالجة السياق الحواري المتراكم. واشاروا الى ان بعض النماذج اظهرت ترددا واضحا في مواقفها خلال المحادثة الواحدة بينما تمكنت نماذج اخرى من تصحيح مسارها عند منحها فرصة ثانية لاعادة التقييم.

وخلصت النتائج الى ضرورة تعزيز معايير الموثوقية في تقنيات الذكاء الاصطناعي خاصة مع تزايد الاعتماد عليها في مجالات حساسة كالتعليم والطب والقانون. واكدت الدراسة ان اختبار النماذج عبر سؤال واحد لا يكفي لتقييم كفاءتها بل يجب الاعتماد على محادثات طويلة ومكثفة لرصد نقاط الضعف في مقاومة التضليل.

واوصى الخبراء المستخدمين بضرورة التحقق من المعلومات الحساسة عبر مصادر خارجية وعدم الاكتفاء بالاجابات التي يقدمها الذكاء الاصطناعي مهما بدت واثقة او مقنعة.