في السنوات الأخيرة، أشار عدد من خبراء الذكاء الاصطناعي إلى أن الأنظمة الذكية لن تكتفي بمساعدة البشر، بل ستتولى تنفيذ المهام واتخاذ القرارات في بيئات رقمية معقدة. ومع ذلك، تكشف الممارسات الفعلية عن واقع أكثر تحفظًا، حيث لا تزال هذه الأنظمة تعمل ضمن أطر من الإشراف البشري.

قالت إليانور واتسون، الباحثة في الهندسة بجامعة غلوسترشير، إن الذكاء الاصطناعي الوكيلي يختلف عن النماذج التقليدية، حيث إنه قادر على تفسير الأهداف واختيار الاستراتيجيات. أضافت أن هذه الأنظمة تمثل تحولًا نحو استخدام الذكاء الاصطناعي كمنفذ رقمي يتابع الأهداف على مدى زمني طويل.

أظهرت أبحاث معهد مهندسي الكهرباء والإلكترونيات أن 96% من خبراء التكنولوجيا يتوقعون تسارع تطوير هذه الأنظمة ودمجها في مختلف القطاعات. لكن، مع تزايد الاعتماد على هذه الأنظمة، تبرز المخاوف المتعلقة بالثقة والحوكمة.

رغم تقدم الذكاء الاصطناعي، لا تزال العديد من المؤسسات مترددة في منح الأنظمة استقلالية كاملة. ويرجع ذلك إلى المخاوف المرتبطة بالمسؤولية وإدارة المخاطر. وأكدت واتسون أن التكنولوجيا تتقدم بسرعة أكبر من قدرة المؤسسات على بناء نماذج فعالة للمساءلة.

كما أشار حسام الدين الأسود، الرئيس التنفيذي لشركة ناشيونال كوانتوم، إلى أن المؤسسات التي تتعامل مع قواعد بيانات حساسة لا تستطيع التخلي عن الإشراف البشري. وأوضح أن النماذج الذكية تعمل بشكل جيد في السيناريوهات المتوقعة، لكنها قد تواجه صعوبات في الأزمات.

تظهر البيانات أن 69% من قرارات الأنظمة الذكية تحتاج إلى تحقق بشري، بينما 87% من المؤسسات تستخدم وكلاء ضمن أطر من الإشراف. تشير هذه الأرقام إلى أن الإشراف البشري ليس وصفة واحدة بل يتطلب نماذج متنوعة حسب طبيعة المخاطر المتوقعة.

تتجه المؤسسات نحو نموذج يقوم على الإشراف والحوكمة بدلاً من التدقيق اللصيق، حيث يساهم البشر في وضع الأهداف وتحديد الحدود. وأكدت واتسون أن النموذج المستقبلي يجب أن يقوم على التعاون بين الإنسان والآلة، بدلاً من اعتبار الرقابة البشرية مرحلة مؤقتة.

في الختام، تشير التحديات الحالية إلى أن الاستقلالية الكاملة للذكاء الاصطناعي ما تزال بعيدة المنال، مع ضرورة وجود الإنسان كجزء أساسي من المعادلة لضمان المسؤولية عن القرارات.