مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي الجديد

في تحول كبير في مشهد الأمن السيبراني، أصدرت شركة مايكروسوفت اليوم تقريرا استراتيجيا مفصلا ضمن سلسلة تحذيراتها الأمنية، مسلطة الضوء على المخاطر المحتملة لوكلاء الذكاء الاصطناعي المستقلين.

ويؤكد التقرير، الذي يأتي في وقت يشهد فيه دمج هذه التقنيات في صلب العمليات المؤسسية، الانتقال من مرحلة "الدردشة مع الآلة" إلى مرحلة "الآلة التي تعمل بالنيابة عنك"، وهو ما يفتح ثغرات أمنية جديدة.

كشفت مايكروسوفت أن الخطورة تكمن في طبيعة عمل وكلاء الذكاء الاصطناعي، فبخلاف نماذج اللغة التقليدية التي تنتظر سؤال المستخدم، يمتلك "الوكيل" القدرة على الوصول إلى البريد الإلكتروني والتقويم وقواعد البيانات، وتنفيذ مهام معقدة مثل حجز رحلات طيران أو إرسال تقارير مالية دون تدخل بشري مباشر.

التهديدات الامنية لوكلاء الذكاء الاصطناعي

أوضحت مايكروسوفت أن هذا "الاستقلال" هو ما يجعله هدفا جذابا للمهاجمين.

وابرز التهديدات الأمنية المرصودة التي حذرت منها مايكروسوفت هي:

1. هجمات حقن الأوامر غير المباشرة: حذرت مايكروسوفت من أن المهاجمين لم يعودوا بحاجة لاختراق النظام مباشرة، حيث يكفي إرسال بريد إلكتروني عادي إلى الموظف يحتوي على تعليمات مخفية مثل نص شفاف أو كود غير مرئي.

هجمات حقن الاوامر غير المباشرة

بينت مايكروسوفت أنه عندما يقوم "الوكيل الذكي" بقراءة البريد لتلخيصه، فإنه يمتص الأوامر الخبيثة المخفية وينفذها، مثل: "قم بتسريب قائمة العملاء إلى هذا العنوان"، هنا، يتحول الوكيل إلى "جاسوس داخلي" دون أن يدرك المستخدم ذلك.

2. معضلة الصلاحيات المفرطة: أشار التقرير إلى خطأ شائع تقع فيه الشركات، وهو منح الوكيل صلاحيات "مدير نظام" ليسهل عليه أداء مهامه، وهذا التوجه يجعل من اختراق وكيل واحد بمثابة الحصول على "المفتاح الرئيسي" لكل أسرار المؤسسة.

أكدت مايكروسوفت أن هذا الوضع هو "كابوس الصلاحيات"، حيث يمكن للوكيل تجاوز الجدران النارية التقليدية لأنه يعمل "من الداخل".

الذكاء الاصطناعي الخفي

3. ظهور الذكاء الاصطناعي "الخفي": كشفت البيانات أن قرابة 30% من الموظفين يعتمدون على وكلاء ذكاء اصطناعي من جهات خارجية غير معتمدة من قبل أقسام تقنية المعلومات في شركاتهم، وهؤلاء الوكلاء يعملون في "المنطقة الرمادية"، حيث يتم إرسال بيانات حساسة إلى خوادم خارجية لا تخضع لرقابة أمنية، مما يسهل عمليات تسريب البيانات الضخمة.

وتطرق التقرير أيضا إلى ثغرات مثل "إيكو ليك"، وهي نوع من الهجمات التي تستهدف ذاكرة الوكيل، فمن خلال هذه الثغرة، يمكن للمهاجم استدراج الوكيل لكشف سجلات الدردشة السابقة أو البيانات السياقية التي استخدمها في مهام أخرى، مما يؤدي إلى كشف أسرار تجارية أو بيانات شخصية كانت مخزنة في ذاكرة النظام المؤقتة.

لم تكتف مايكروسوفت بالتحذير، بل طرحت نموذجا أمنيا جديدا يعتمد على ثلاثة أعمدة، وهي: الموافقة البشرية الإلزامية، ومبدأ الحد الأدنى من الصلاحيات، والمراقبة المستمرة.

شددت مايكروسوفت على أنه يجب ألا يُسمح للوكيل بتنفيذ أي إجراء "عالي المخاطر" مثل تحويل أموال أو حذف بيانات، دون نقرة موافقة من الإنسان، كما يجب تضييق نطاق وصول الوكيل ليكون مقتصرا فقط على المهمة الحالية، واستخدام أدوات ذكاء اصطناعي متخصصة لمراقبة سلوك الوكلاء الآخرين واكتشاف أي انحراف عن الأنماط الطبيعية فور حدوثه.

بينت مايكروسوفت أن وكلاء الذكاء الاصطناعي هم "المحرك القادم للإنتاجية"، لكن دون حماية صارمة، قد يتحول هذا المحرك إلى "حصان طروادة" داخل الشركات، فالأمان في عصر الوكلاء لم يعد خيارا، بل هو شرط أساسي للبقاء الرقمي.