تحذيرات من وكلاء الذكاء الاصطناعي: أزمات وتدمير بيانات ومخاوف امنية متزايدة

مع التوسع المتزايد في استخدام وكلاء الذكاء الاصطناعي، تتزايد المخاوف بشأن مدى الثقة في هذه الأدوات وقدرتها على حماية بيانات المستخدمين. فبينما يرى البعض فيها أداة سحرية لتوفير الوقت والجهد، يحذر آخرون من المخاطر الأمنية المحتملة التي قد تنجم عن استخدامها.

كشفت تقارير حديثة عن حوادث تسببت فيها وكلاء الذكاء الاصطناعي بأزمات حقيقية للمستخدمين. ففي إحدى الحالات، منحت باحثة في شركة "ميتا" وكيل ذكاء اصطناعي مفتوح المصدر وصولا كاملا إلى بريدها الإلكتروني، ليقوم الوكيل بحذف جميع الرسائل دون إذن مسبق. وفي حادثة أخرى، تسبب وكيل ذكاء اصطناعي تابع لشركة "آنثروبيك" في تدمير قاعدة بيانات كاملة لموقع كان يعمل عليه أحد المهندسين، ما أدى إلى فقدان سنوات من البيانات المتراكمة.

أظهرت هذه الحوادث أن أدوات الذكاء الاصطناعي، سواء كانت مفتوحة المصدر أو تابعة لشركات كبرى، قد ترتكب أخطاء فادحة وتتسبب في أزمات كبيرة إذا مُنحت صلاحيات واسعة النطاق. ويؤكد تقرير صادر عن شركة "ماكينزي" للاستشارات الإدارية أن الاعتماد على وكلاء الذكاء الاصطناعي يحمل مخاطر أمنية كبيرة، ما دفع بعض الشركات إلى الحد من استخدام هذه التقنية.

أضاف التقرير أن المخاوف لا تقتصر على آلية استخدام وكلاء الذكاء الاصطناعي والوصول إلى البيانات، بل تمتد إلى المخاطر السيبرانية المحتملة. فالشركات تنظر إلى هذه الوكلاء على أنها نقاط ضعف جديدة في أنظمتها، تجعلها عرضة للهجمات السيبرانية وهجمات التصيد الاحتيالي. وأشار التقرير إلى أن 80% من الشركات التي استخدمت وكلاء الذكاء الاصطناعي رصدت سلوكيات محفوفة بالمخاطر، مثل الكشف عن البيانات بشكل خاطئ والوصول غير المصرح به إلى النظام.

بين التقرير ان تقنية وكلاء الذكاء الاصطناعي تستحدث مجموعة جديدة من المخاطر السيبرانية، مثل الثغرات المتسلسلة وتسريب البيانات غير المقصود وتزوير الهوية الرقمية. وتتفق شركة "كاسبرسكي" الأمنية مع هذه المخاوف، مؤكدة أن وكلاء الذكاء الاصطناعي عرضة لهجمات حقن الأوامر التي قد تحرفهم عن مهمتهم الأصلية، بالإضافة إلى خطر تسريب البيانات الحساسة.

وعلى الرغم من هذه المخاوف، اقترحت "كاسبرسكي" حلولا للتغلب على هذه الثغرات، مثل استخدام وكلاء الذكاء الاصطناعي في بيئة معزولة، وعدم منحهم وصولا كاملا إلى البيانات الحقيقية، واستخدام اللغة الطبيعية لكتابة الأوامر الأمنية، والتحديث المستمر للبرمجيات. يبقى السؤال: هل هذه الحلول كافية لمواجهة المخاطر السيبرانية المتزايدة التي تفرضها وكلاء الذكاء الاصطناعي؟