اصبح الذكاء الاصطناعي التوليدي اداة لا غنى عنها في تسريع انجاز المهام البحثية وتحليل البيانات المعقدة، الا ان هذه السهولة في الوصول للمعلومات تفرض تحديات كبيرة تتعلق بموثوقية النتائج. واظهرت الدراسات ان النماذج اللغوية الكبيرة قد تقع في فخ ما يسمى بالهلوسة، حيث تقدم معلومات خاطئة او مضللة بصياغة واثقة ومقنعة للغاية، مما يجعل دور المستخدم في المراجعة والتدقيق امرا حتميا.

قال خبراء التقنية ان اول خطوة للتحقق هي العودة للمصدر الاصلي بدلا من الاكتفاء باجابة النموذج، موضحين ان النماذج قد تختلق مراجع او اقتباسات لا وجود لها في الواقع. واضافوا انه يجب على المستخدم التعامل مع مخرجات الذكاء الاصطناعي كنقطة انطلاق للبحث وليس كمرجع نهائي للحقيقة.

وكشفت التجارب ان الاعتماد على مصدر واحد لا يكفي، مبينة ان مقارنة المعلومة بعدة مصادر موثوقة تعد وسيلة فعالة لاكتشاف التناقضات. واظهرت التقارير ان فحص الروابط والمراجع التي يقدمها الذكاء الاصطناعي ضرورة قصوى، حيث ان وجود رابط لا يعني بالضرورة صحة المحتوى الذي يشير اليه.

وبين المختصون ان التحقق من الارقام والتواريخ والاسماء يجب ان يتم بشكل مستقل عبر قواعد بيانات موثوقة، موضحين ان النماذج قد تخطئ في التفاصيل الدقيقة رغم دقة صياغتها اللغوية. واشاروا الى اهمية الانتباه لحداثة المعلومات، خاصة في المجالات التي تتغير بسرعة مثل الاقتصاد والقوانين، حيث ان النماذج قد لا تملك تحديثات لحظية ما لم تستخدم ادوات بحث متصلة بالويب.

واضافوا ان اعادة صياغة السؤال واختبار الاجابة باكثر من طريقة يساعد في كشف درجة عدم اليقين لدى النموذج، موضحين ان بعض الادوات الحديثة تتيح للمستخدمين اكتشاف بصمات المحتوى المولد رقميا. واكدوا في النهاية ان التحقق مسؤولية المستخدم بالدرجة الاولى، فكلما زادت اهمية القرار المعتمد على المعلومة، زادت ضرورة التدقيق البشري لضمان الدقة وتجنب التبعات الخطيرة للاخطاء المعلوماتية.