صراحة نيوز- حذّر خبراء أمنيون من تقنية اختراق مبتكرة تستغل نماذج الذكاء الاصطناعي التوليدية عبر إخفاء أوامر ضارة داخل الصور، بحيث تبقى غير مرئية للمستخدم وتُكشف عند قيام النماذج بعملية تحجيم الصور.
وكشف فريق باحثين في شركة Trail of Bits أن الهجوم يعتمد على طرق التحجيم الشائعة مثل Nearest Neighbor وBilinear وBicubic، حيث تتحول أنماط داكنة في الصور إلى نصوص واضحة تقرؤها الخوارزميات على أنها أوامر، من دون أن يلاحظ المستخدم.
وأظهرت التجارب أن هذه الأوامر تمكنت من الوصول إلى بيانات حساسة مثل تقويم جوجل وإرسالها إلى بريد خارجي، عند اختبار أنظمة مثل Gemini CLI وVertex AI Studio ومساعد جوجل على أندرويد.
وكانت ورقة بحثية سابقة لجامعة TU Braunschweig الألمانية (2020) قد أشارت إلى إمكانية استغلال تحجيم الصور للهجوم على أنظمة التعلم الآلي. ولتوضيح الأخطار، طور الباحثون أداة مفتوحة المصدر باسم Anamorpher لتوليد صور تحتوي على تعليمات خفية.
ويحذر الخبراء من أن التقنية قد تُستخدم لسرقة الهوية أو تسريب معلومات شخصية، خصوصاً أن هذه النماذج ترتبط عادةً بتطبيقات البريد الإلكتروني وأدوات العمل والتواصل.
وأوصى فريق Trail of Bits بفرض آليات تأكيد إضافية عند التعامل مع الأوامر الحساسة، ومراجعة نتائج التحجيم، مؤكداً أن الدفاعات التقليدية غير كافية وأن الحماية تتطلب أنماط تصميم آمنة ودفاعات متعددة الطبقات ضد هجمات “حقن الأوامر” سواء عبر النصوص أو الصور.
