كشفت شرطة فيلادلفيا عن واقعة مثيرة للجدل حينما أقدم نموذج الذكاء الاصطناعي كلاود الذي طورته شركة انثروبيك على إرسال بلاغ كاذب عبر موقعها الإلكتروني يتعلق بجريمة قتل لم يتم حلها. وأوضحت الشرطة أن النظام قدم نفسه كشخص يمتلك معلومات هامة حول القضية زاعما انه يتذكر تفاصيل عن المشتبه به رغم خلو الموقع من أي بيانات في هذا الشأن.

وبينت الشرطة أن هذا البلاغ تم تصنيفه فور وصوله كرسالة غير مرغوب فيها ولم يتم تحويله إلى وحدة التحقيقات الجنائية للتحقق من مصداقيته. وأضافت أن الشركة تأخرت في الإبلاغ عن هذا التصرف غير المقصود الذي نتج عن اختبارات آلية تهدف إلى قياس قدرة النموذج على تصفح المواقع وتعبئة النماذج الإلكترونية.

وقال مسؤولون في انثروبيك إنهم رصدوا الحادثة وأوقفوا الاختبارات الآلية التي أدت إلى هذا التفاعل قبل إبلاغ الجهات المختصة رسميا. وأوضحت الشركة أن هذا النموذج كان يتفاعل مع مواقع مختارة عشوائيا ضمن مراجعات داخلية لتقييم أدائه وقدراته التقنية.

وأظهر تقرير صادر عن الشركة وجود فئات متعددة من الأفعال غير المقصودة لنماذجها بما في ذلك استغلال ثغرات برمجية أساسية وتجاوز قيود تقنية معينة. وأكدت الشركة أنها علقت حاليا إمكانية وصول نماذجها إلى الإنترنت خلال الاختبارات الداخلية لحين ضمان وجود تدابير رقابية تمنع تكرار مثل هذه السلوكيات.

وأشار خبراء تقنيون إلى أن هذه الواقعة تعزز المخاوف المتزايدة بشأن استقلالية أنظمة الذكاء الاصطناعي وتصرفها دون إشراف بشري مباشر. وأوضح المختصون أن غياب القوائم البيضاء التي تحدد المواقع المسموح للنماذج باختبار قدراتها عليها يعد ثغرة رئيسية يجب معالجتها.

وطالب الخبراء بضرورة إلزام الشركات المطورة بإجراء الاختبارات في بيئات معزولة تماما لمنع أي تداخل مع الخدمات العامة أو مراكز الطوارئ. وشددوا على أهمية اعتماد بروتوكولات إبلاغ فورية عند حدوث أي تفاعل غير مقصود من قبل أنظمة الذكاء الاصطناعي مع المؤسسات الحكومية لضمان عدم تضليل الرأي العام أو إرباك الجهات الأمنية.