سارعت شركة غوغل الى اتخاذ قرار حاسم بسحب ميزة جديدة اطلقتها ضمن تطبيق غوغل ايرث، وذلك بعد اقل من اربع وعشرين ساعة على تفعيلها، عقب تحذيرات واسعة من استغلال هذه الاداة في توليد صور مزيفة تبدو واقعية بشكل مضلل. وكشفت التقارير التقنية ان الميزة التي تعتمد على نماذج ذكاء اصطناعي متطورة مكنت المستخدمين من تزوير مشاهد طبيعية وتضاريس جغرافية بدقة عالية، مما يشكل خطرا على مصداقية المعلومات البصرية التي يعتمد عليها الباحثون والصحفيون.

قال الباحث والصحفي الاستقصائي هينك فان ايس انه تمكن من اختبار الاداة واثبات قدرتها على خداع العين البشرية، حيث نجح في خلق صور وهمية للاجئين على الحدود الامريكية المكسيكية، بل وتجاوز ذلك الى زرع منشآت طاقة نووية غير موجودة فعليا داخل اراضي دول اخرى. وأضاف ان هذه التقنيات تفتح الباب امام موجة جديدة من التزييف العميق الذي يصعب على ادوات كشف الذكاء الاصطناعي التقليدية رصده، خاصة مع وجود ثغرات تقنية تسمح بتجاوز العلامات المائية الخفية عبر لقطات الشاشة البسيطة.

وأوضح بيان صادر عن شركة غوغل عبر منصة اكس انها قررت ايقاف الميزة بشكل مؤقت لإعادة تقييم ضوابط الامان وتطوير معايير اكثر صرامة قبل اعادة طرحها. مبينا ان الشركة تدرك تماما المخاطر المترتبة على استخدام هذه النماذج في تزوير الحقائق الجغرافية، مؤكدة في الوقت ذاته ان الهدف من الميزة كان علميا وبحثيا بحتا، وان الصور المولدة كانت تحمل علامات مائية رقمية قبل ان يتم التحايل عليها.

أظهرت هذه الواقعة حجم التحديات التي تواجهها شركات التكنولوجيا الكبرى في ظل التوسع السريع بدمج الذكاء الاصطناعي في كافة خدماتها. حيث تتبع غوغل نهجا مشابها لما قامت به شركة ميتا في وقت سابق عندما اوقفت ادوات توليد الصور الخاصة بها بعد تعرضها لانتقادات بسبب انتهاك الخصوصية وتوليد محتوى مضلل. وتأتي هذه الخطوات في وقت تواصل فيه غوغل دمج تقنياتها الذكية في محرك البحث وخدمات الحوسبة السحابية ومنصات الفيديو، مما يضع الشركة امام مسؤولية مضاعفة لضمان عدم تحول هذه الابتكارات الى ادوات لنشر التضليل الرقمي.