تشخیص بیش از بیست امنیتی در ابزارهای متنباز یادگیری ماشین؛ هشدار برای

تشخیص بیش از بیست امنیتی در ابزارهای متنباز یادگیری ماشین؛ هشدار برای تحلیلهای جدید نشان میدهد که فریمورکهای یادگیری ماشین متنباز، با وجود سادگی و انعطافپذیری که فراهم میکنند، در برابر تهدیدات امنیتی بیشترین آسیبپذیری را نسبت به زیرساختهای بزرگتر مانند سرورهای وب یا سرویسهای دارند.استفادهزايد از هوش مصنوعی در صنایع مختلف،’aiین مشغلهی ایمنسازی این ابزارها را جدیتر کرده است؛ چرا که هرگونه امنیتی میتواند بازی برای دسترسی غیرمجاز، نشت دادههای حساس یا اختلال در فرآیندهایی باشد.بر اساس گزارش تیم امنیتی که به خبرگزاری تکنا انتشار یافت، در چند ماه اخیر 22 امنیتی در 15 پروژه متنباز مرتبط با یادگیری ماشین شناسایی شد؛ این ها عمدتاً به دو دسته کلی تقسیم میشوند اول، تهدیدهایی که مؤلفههای سرور ماستر را هدف قرار میدهند؛ دوم،های افزایش مجوز درون فریمورکهای یک حساس در ابزار که بخشی از بسته است، به معیاب شناخته میشود؛ این به دلیل نبود اعتبارسنجی مناسب مسیرهای فایل، به کاربران سطح دسترسی پایین اجازه میدهد تا فایلهای در سیستم فایل را بخوانند و احتمالاً کلیدهای API ادمین یا سایر اسرار را فاش کنند.در ابزار معروف نیز ی بحرانی تحت بررسی قرار گرفته که دسترسی آن را تضعیف میدهد؛ é این به مهاجمهای با è امکان میدهد تا در سطح دسترسی خود را بالا ببرند و در نتیجه به اسناد/ و فایلهای مدل شده دسترسی یابند.این نوع ê میتواند حملاتی چون، تزریق دادههای یا دسترسی غیرمجاز به های ó راפשר سازد؛ که به صراحت به این وابسته هستند.در ư ữ داده که برای کارهای هوش مصنوعی بهینهسازی شده، تزریق فرمان یاف شد؛ ضعف در پاکسازی ورودی مجموعه دادههای خارجی، مهاجم را قادر میسازد تا را اجرا کرده و امنیت کل پایگاه داده و برنامههای وابسته را زیر سؤال ببرد.یک دیگر در AI، ابزاری برای تبدیل متن زبان طبیعی به SQL، به معیاب ثبت شد؛ این اجازه تزریق کد مخرب در اعلانهای SQL را میدهد که توسط این ابزار پردازش میشود و میتواند منجر به RCE، یا دادهکاوی شود.در نیز چند شامل دسترسی غیرمجاز به، فایلهای و های ضعیف گزارش شدهاند؛ این به مهاجم اجازه میدهد تا ی بر خط لولات داده کند، تنظیمات را کند یا دستورات مخرب را اجرا سازد؛ ترکیب آنها خطر ارتقاء سطح دسترسی و دادهها را افزایش میدهد.اگر مهاجم به دسترسی به رجیستریهای ML یا پایگاههای داده دست یابد، میتواند در زمان بارگذاری مدل، کدهای را کند و های بسازد؛ این ها وقتی که مدل به های CI/CD یا دیگر تحویل شود، میشوند و ممکن است سمیم، الخارجي یا çã را کنند.نتیجهٔ تحلیل کردن بین استراتژیهای امنیتی ML/AI و چارچوبهایایمنی سایبری را نشان میدهد؛ بسیاری سازمانها هنوز رویکرد یکپارچهای برای حفاظت از چارچوبها، دیتاستها و مدلهای اساسی نوآوری AI ندارند و این امر نقاط مونیتورینگ کمکاربرد را به وجود میآورد.به، حفاظت از ابزارها، دیتاستها و مدلهای التي AI را نگاه میدارد، یک رویکرد همگ و پیشگیریپذیر؛.

منظم، اسکن خودکار، کنترل دسترسی و، کلیدهای دفاعی اساسی در هستند.

مطالب مشابه