حمله تزریق مخفی به با تصاویر کوچکشده: تحلیل خطر امنیتی و راهکارهای پیشگیری

حمله تزریق مخفی به با تصاویر کوچکشده تحلیل خطر امنیتی و راهکارهای پیشگیری, پژوهشگران امنیتی شرکت با انتشار گزارش جدیدی، به آسیبپذیری جدی در ابزارهای مبتنی بر مدل گوگل در برابر حملات تزریق دستورات مخفی از طریق تصاویر کوچکسازیشده اشاره کردهاند. این روش حمله که پیشتر در متون علمی مورد بررسی قرار گرفته، اکنون به صورت عملی بر روی محیطهای مختلف گوگل اعم از AI، رابط وب، API، Google و مرورگر تست و اثبات شده است.

مکانیزم حمله چگونه دستورات در پیکسلها پنهان میشوند؟ اساس این تکنیک، جاسازی دستورات مخرب در لایههای داده تصویر به گونهای است که برای چشم انسان نامرئی بمانند، اما هنگام تغییر مقیاس توسط الگوریتمهای رایج نظیر، و، آشکار شده و توسط مدل هوش مصنوعی اجرا گردند.

کاربر به طور مستقیم متن مخرب را وارد میکند، این روش نوعی تزریق غیرمستقیم محسوب میشود.

قربانی هیچگونه آگاهی از وجود کد مخرب در فایل تصویری ندارد و صرفاً با آپلود یک عکس به ظاهر بیضرر، دستورهای پنهان را در مدل فعال میسازد. این ویژگی، نرخ موفقیت حمله را به شدت افزایش میدهد، چرا که هیچ تعامل مشکوکای از سوی کاربر صورت نمیگیرد. پیش از این، نمونه مشابهی از این حمله در مرورگر شرکت نیز مشاهده شده بود.

موضع گوگل و شرایط بروز خطر گوگل در پاسخ به این گزارش، این مسئله را یک آسیبپذیری امنیتی کلاسیک تلقی نکرده و تأکید کرده که ón این باگ تنها در صورت فعالسازی پیکربندیهای غیرپیشفرض و ناامن توسط کاربر امکانپذیر است.

نامعتبر را بدون بررسی در سیستم بارگذاری نماید.

گوگل اعلام کرده که بهزودی هشدارهای صریحتری برای کارانی که گاردهای امنیتی را برداشتهاند، در ابزارهای خود اضافه خواهد کرد. راهکارهای پیشنهادی و ضرورت دفاعهای ساختاریافته تیم معتقد است که تکیه بر پیشنمایش تصویر یا ابزارهای کمکی به تنهایی پاسخگوی این تهدید نیست. آنها بر لزوم پیادهسازی دفاعهای در عمق و معماریهای ایمن در سطح سیستمهای عاملمحور ( AI) تأکید دارند.

توصیههای کلیدی شامل موارد زیر میشود اجتناب از بارگذاری تصاویر از منابع غیرمعتبر در محیطهای هوش مصنوعی حساس. غیرفعال نگهداشتن گزینههای پردازش خودکار فایلهای خارجی بدون تأیید صریح. استفاده از محیطهای ایزوله برای اجرای کدهای تولیدشده توسط هوش مصنوعی. تقاضا از پلتفرمها برای ارائه پیشنمایشی از دادههایی که مدل واقعاً میبیند پس از پیشپردازش.

این تحقیق یک بار دیگر نشان میدهد که امنیت در عصر هوش مصنوعی مولد، فراتر از فیلتر کردن متنها است و نیازمند بازنگاری در نحوه پردازش دادههای چندرسانهای در لایههای زیرین سیستمهاست.

مطالب مشابه