مخاطر الذكاء الاصطناعي وكيف تفضح الوكلاء الرقميون البيانات المصرفية للمستخدمين
كشفت حوادث تقنية حديثة عن تحديات امنية مقلقة تتعلق بقدرة الوكلاء الرقميين القائمة على الذكاء الاصطناعي في تنفيذ المهام نيابة عن المستخدمين. واظهرت تلك الوقائع ان الخطورة لا تكمن فقط في محاولات الاختراق الخارجي. بل في الاخطاء البرمجية التي قد تؤدي الى تسريب معلومات حساسة وارصدة مصرفية الى جهات غير مقصودة بسبب التباس في الصلاحيات او وجهات الارسال.
واوضح تقرير تقني ان المدير التنفيذي لشركة اكس ام تي بي لابز الامريكية شين ماك تعرض لموقف محرج بعد ان قام وكيل مالي صممه باستخدام بوت غروك بنشر تفاصيل ارصدته البنكية ونفقاته الشخصية في قناة عمل عامة على منصة سلاك بدلا من ارسالها الى محادثة خاصة. وقال ماك ان الوكيل كان مبرمجا لاعداد تقارير دورية عن الميزانية. الا ان تشابه المسميات بين القنوات ادى الى هذا الخطأ غير المقصود.
وبينت التحليلات ان الصلاحيات الواسعة الممنوحة للوكلاء الاذكياء تضاعف من احتمالات الخطأ. واضافت ان الوكيل قد يحصل على البيانات بطريقة مشروعة تماما. الا ان افتقاره للادراك السياقي للفرق بين الحسابات الشخصية والمهنية يجعله اداة لنشر بيانات سرية في بيئات غير مناسبة. واشارت وكالة الامن السيبراني الامريكية الى ضرورة تبني استراتيجيات دفاع متعددة الطبقات للحد من هذه المخاطر.
واكد خبراء الامن الرقمي ان الحل يكمن في تطبيق مبدا اقل قدر من الصلاحيات. موضحين انه لا ينبغي منح الوكيل صلاحية الوصول الى كافة التطبيقات والملفات اذا كانت مهمته تقتصر على تحليل البيانات المالية. وشدد المختصون على اهمية اشتراط موافقة بشرية صريحة قبل اي عملية ارسال او مشاركة للبيانات خارج النطاق الضيق المحدد للمهمة.
وكشفت التوصيات الصادرة عن المعهد الوطني الامريكي للمعايير والتقنية ان المسؤولية تقع على عاتق المطورين والمستخدمين على حد سواء. واضافت ان المطورين مطالبون ببناء آليات تحقق مستقلة تمنع تجاوز الصلاحيات. بينما ينبغي على المستخدمين مراجعة الاذونات الممنوحة للوكلاء بصفة دورية وفصل اتصالاتهم المهنية عن حساباتهم الشخصية لضمان عدم حدوث تسريبات غير متوقعة.
