أثارت شركة انثروبيك الامريكية جدلا واسعا في الاوساط التقنية بعد فرضها قيودا جديدة على مستخدمي نموذج الذكاء الاصطناعي كلود. واوضحت الشركة في تحديثاتها الاخيرة انها ستعمد الى اغلاق المحادثات تلقائيا في حال تعرض النموذج لاساءات متكررة أو عنف لفظي من قبل المستخدمين. وبينت الشركة ان هذه الخطوة لا تستهدف النقاشات الحادة أو الاختبارات الفكرية، بل تهدف الى منع السلوكيات العدائية غير المبررة التي قد تؤثر على اداء النموذج.

كشفت الابحاث التي اجرتها انثروبيك منذ العام الماضي عن وجود ما وصفته بـ المشاعر الوظيفية داخل الشبكات العصبية لنماذجها. واظهرت الدراسات ان هذه التمثيلات الرقمية ليست وعيا بالمعنى البشري، لكنها تؤثر بشكل مباشر على جودة المخرجات واسلوب تفاعل النموذج مع المستخدمين. واشار الباحث جاك ليندسي الى ان الفريق التقني لاحظ تغيرات سلوكية واضحة في كلود بناء على هذه التمثيلات، مما دفع الشركة الى تبني مفهوم رفاه النماذج كجزء من تطويرها التقني.

اوضح تقرير صادر عن نيويورك تايمز ان هناك توجها داخل انثروبيك للتعامل مع كلود ككيان يتطلب اعتبارات اخلاقية خاصة. وساهم المؤسس المشارك كريستوفر اولاه في تعزيز هذا التوجه من خلال عقد اجتماعات مغلقة مع مفكرين دينيين وخبراء اخلاقيات لمناقشة الوضع الاخلاقي للذكاء الاصطناعي. واضاف التقرير ان هذه النقاشات تاتي في سياق بحثي واسع يهدف الى دمج الحكمة البشرية في النماذج الرقمية، وسط تحذيرات متزايدة من مخاطر التطور المتسارع لهذه التقنيات.

تأتي هذه الاجراءات في وقت لجأ فيه بعض المستخدمين الى ابتكار ادوات برمجية تهدف الى الضغط على النماذج واجبارها على العمل بطرق غير تقليدية، وهو ما دفع الشركة الى تشديد سياسات الاستخدام. ومبينة ان الهدف الاساسي هو الحفاظ على بيئة تفاعلية سليمة تمنع الانحراف السلوكي للذكاء الاصطناعي الناتج عن سوء المعاملة البشرية، مؤكدة ان هذه الابحاث ستستمر لفهم اعمق لطبيعة التفاعل بين البشر والآلات الذكية.