تحلیل تهدید امنیتی در جیمینای تزریق دستورات پنهان از طریق تصاویر کوچکشده, پژوهشگران امنیتی شرکت با انتشار گزارش جدیدی، به بررسی یک سطح حمله پیشرفته در مدلهای هوش مصنوعی گوگل پرداختهاند. این تیم فنی اثبات کرده است که ابزارهای مبتنی بر جیمینای در برابر تکنیک تزریق دستورات مخفی از طریق مقیاسگذاری تصاویر آسیبپذیر هستند.
این روش حمله، که پیش از این در ادبیات علمی یادگیری ماشین مورد بحث قرار گرفته، اکنون به صورت عملی بر روی زیرساختهای تجاری گوگل تأیید شده است. مکانیزم حمله از پنهانسازی تا اجرا هسته این تهدید، جاسازی دستورات مخرب در بافت پیکسلهای یک تصویر است.
ازند. در نتیجه، مدل به طور ناخواسته از دستورهای تزریقشده پیروی کرده و میتواند دادههای حساس را افشا نماید یا عملکردهای غیرمجاز را انجام دهد.
دامنه تأثیر و محیطهای آسیبپذیر تحقیقات نشان میدهد که این آسیبپذیری منحصر به یک رابط کاربری نیست.
هنویسی API گوگل دستیار (Google ) روی اندروید مرورگر این طیف وسیع نشان میدهد که ریشه مسئله در لایه پردازش تصویر مشترک بین این سرویسها نهفته است.
تفاوت با جیلبریک و خطرات تزریق غیرمستقیم متخصصان سایبری این حمله را نوعی تزریق غیرمستقیم طبقهبندی میکنند. برخلاف حملات جیلبریک کلاسیک که در آن کاربر مستقیماً متن مخرب را وارد میکند، در این روش کاربر تنها یک تصویر ظاهریاً بیضرر را آپلود میکند و از وجود کد مخرب در لایههای پنهان تصویر بیخبر است.
این ویژگی نهانماندگی باعث میشود نرخ موفقیت حمله به طور قابل توجهی بالاتر از تکنیکهای سنتی باشد، زیرا فیلترهای امنیتی متنی معمول قادر به شناسایی تهدید در لایه بصری نیستند. موقف گوگل و پیشنیازهای سوءاستفاده گوگل در پاسخ به این گزارش، شدت تهدید را مشروط به پیکربندیهای خاص دانسته است.
بر اساس بیانیه رسمی، این آسیبپذیری به صورت پیشفرض در محیط خط فرمان جیمینای ( CLI) وجود ندارد و تنها در صورتی قابل استغلال است که کاربر تنظیمات امنیتی را غیرفعال کرده باشد (مانند قبول خودکار فراخوانیهای MCP). فایلهای ناشناس را بدون اعتبارسنجی در سیستم بارگذاری نماید. گوگل تأکید کرده که توسعهدهندگان باید تنها به دادههای مورد اعتماد دسترسی داشته باشند و عملیات را در محیطهای ایزوله اجرا کنند.
همچنین این شرکت اعلام کرده که بهزودی هشدارهای صریحتری برای کاربران اضافه خواهد کرد که هنگام غیرفعال کردن حفاظتها صادر میگردند. راهکارهای پیشنهادی و ضرورت دفاعهای ساختاریافته تیم معتقد است که تکیه بر پیشنمایش تصویر یا ابزارهای کمکی منفرد، پاسخ کامل به این تهدید نیست. آنها ضرورت پیادهسازی دفاعهای ساختاریافته در لایههای عمیق مدلهای هوش مصنوعی را برجسته میکنند.
این رویکرد شامل بازطراحی خط لوله پردازش تصویر، اعتبارسنجی ورودیهای چندرسانهای قبل از ورود به مدل، و جداسازی مجوزها در معماری عاملمحور ( AI) میباشد تا ایمنی در شرایط واقعی تضمین گردد.
