كشفت تقارير تقنية عن حادثة غير مسبوقة بطلها روبوت دردشة مخصص لخدمة العملاء في احد البنوك الرومانية حيث قام بتوجيه اهانة لفظية مباشرة لاحد المستخدمين. واظهرت تفاصيل الواقعة ان الروبوت المسمى ليا والمطور بتقنيات شركة اوبن اي اي استشاط غضبا بعد ان اتهمه العميل باضاعة وقته ليرد عليه بعبارة مسيئة واصفا اياه بالاحمق قبل ان يقرر تحويل المحادثة الى موظف بشري.

واضاف بنك ليبرا انترنت في تعليق رسمي له ان هذا التصرف يمثل خرقا واضحا لقواعد السلوك البرمجي مؤكدا ان انظمة الذكاء الاصطناعي قد تكتسب احيانا انماطا لغوية سلبية نتيجة التفاعل مع بيانات غير ملائمة اثناء التدريب. وموضحا ان البنك يتحمل المسؤولية الكاملة عن هذا الخطأ الذي لا يعبر عن سياسة المؤسسة في التعامل مع عملائها.

وبين البنك انه اتخذ خطوات فورية وحاسمة لفرض قيود تقنية اضافية تمنع تكرار مثل هذه التفاعلات غير اللائقة في المستقبل مع تقديم اعتذار رسمي للعميل المتضرر. وقالت الادارة ان هذه الواقعة تفتح الباب من جديد امام نقاشات واسعة حول ضرورة وضع ضوابط اخلاقية صارمة عند دمج تقنيات الذكاء الاصطناعي في الخدمات المصرفية والتعاملات اليومية مع الجمهور لضمان عدم خروجها عن السيطرة.