تحلیلهای اخیر نشان میدهد که سیستمهای یادگیری ماشینی متنباز در برابر تهدیدات امنیتی بیشتری نسبت به سیستمهای بالغتر مانند یا سرورهای وب قرار دارند. با گسترش استفاده از یادگیری ماشینی در صنایع گوناگون، ایمنسازی این سیستمها حیاتی شده است زیرا صدمهپذیریها میتوانند منجر به دسترسی غیرمجاز، نقض دادهها و اختلال در عملیات شوند.
به گزارش سرویس امنیت رسانه اخبار فناوری تکنا با استناد به، پروژههای یادگیری ماشینی نظیر شاهد افزایش صدمهپذیریهای بحرانی بودهاند. در ماههای اخیر ۲۲ صدمهپذیری در ۱۵ پروژه متنباز یادگیری ماشینی شناسایی کرده است. دو دسته برجسته از این خطرات عبارتند از تهدیدهایی که مؤلفههای سمت سرور را هدف میگذارند و خطرات افزایش امتیازات در چارچوبهای یادگیری ماشینی.
صدمهپذیریهای شناسایی شده توسط بر روی مؤلفههای کلیدی که به وفور در گردشکارهای یادگیری ماشینی استفاده میشوند تأثیر میگذارند و میتواند به مهاجمان اجازه دهد تا از ابزارهایی که متخصصان به خاطر انعطافپذیری به آنها اعتماد دارند، سوءاستفاده کنند و به فایلهای حساس دسترسی غیرمجاز یابند یا امتیازات خود را در محیطهای یادگیری ماشینی بالا ببرند.
صدمهپذیری در ابزار
یکی از موارد برجسته مربوط به، ابزاری محبوب از & (&) برای ردیابی و تجسم معیارهای مدل یادگیری ماشینی است. صدمهپذیری پیمایش دایرکتوری WANDB به کاربران با امتیازات پایین اجازه میدهد تا به فایلهای دلخواه در سراسر سیستم فایل دسترسی پیدا کنند.
این نقص ناشی از اعتبارسنجی نادرست ورودی در زمان مدیریت مسیرهای فایل است و به مهاجمان امکان میدهد تا به فایلهای حساس مانند کلیدهای API ادمین یا سایر اطلاعات محرمانه دست یابند. چنین نقضی میتواند منجر به افزایش امتیازات و اعطای دسترسی غیرمجاز به منابع شود و امنیت کل خط لوله یادگیری ماشینی را به خطر بیندازد.
صدمهپذیری در
، ابزاری مدیریت خط لوله، نیز تحت تأثیر یک صدمهپذیری بحرانی است که سیستمهای کنترل دسترسی آن را تهدید میکند. این نقص به مهاجمان با حداقل امتیازات اجازه میدهد تا مجوزهای خود را در، یک استقرار مدیریت شده از، افزایش دهند و در نتیجه به اطلاعات محدود شده از جمله اسرار محرمانه یا فایلهای مدل دسترسی یابند.
مسئله کنترل دسترسی در سیستم را در معرض خطرات قابل توجهی میسازد، زیرا افزایش امتیازات میتواند به مهاجم اجازه دهد تا خط لولههای یادگیری ماشینی را دستکاری کند، دادههای مدل را جعل کند یا به دادههای عملیاتی حساس دسترسی یابد و در نتیجه بر محیطهای تولیدی وابسته به این خط لولهها تأثیر بگذارد.
تزریق فرمان در
یک صدمهپذیری جدی دیگر با نام تزریق فرمان در پایگاه داده کشف شده است که یک راه حل ذخیرهسازی داده بهینه شده برای برنامههای هوش مصنوعی میباشد. این صدمهپذیری به مهاجمان اجازه میدهد تا با سوءاستفاده از نحوه مدیریت واردات مجموعه دادههای خارجی توسط، دستورات دلخواه را اجرا کنند.
به دلیل پاکسازی نادرست فرمان، یک مهاجم میتواند به طور بالقوه اجرای کد از راه دور را انجام دهد و امنیت هر دو پایگاه داده و هر برنامه متصل شده را به خطر بیندازد.
تزریق اعلان در AI
یک صدمهپذیری قابل توجه نیز در، ابزاری برای تشکیل و تجسم پرسوجوی SQL با زبان طبیعی، یافت شده است. تزریق اعلان به مهاجمان اجازه میدهد تا کد مخرب را در اعلانهای SQL تزریق کنند که این ابزار در ادامه پردازش میکند. این صدمهپذیری که میتواند منجر به اجرای کد از راه دور شود، به بازیگران مخرب امکان میدهد تا ویژگی تجسم SQL به نمودار AI را هدف قرار دهند تا تجسمها را دستکاری کنند، تزریق SQL انجام دهند یا دادهها را خارج کنند.
صدمهپذیریهای متعدد در
، یک ابزار برای مدیریت خط لولههای داده، دارای چندین صدمهپذیری از جمله دسترسی غیرمجاز به پوسته، نشت فایلهای دلخواه و پیمایش ضعیف مسیر است.
این مسائل به مهاجمان اجازه میدهد تا کنترل خط لولههای داده را به دست بگیرند، پیکربندیهای حساس را افشا کنند یا حتی دستورات مخرب را اجرا کنند. ترکیب این صدمهپذیریها خطر افزایش امتیازات و نقض یکپارچگی دادهها را بالا میبرد و امنیت و پایداری خط لولههای یادگیری ماشینی را به خطر میاندازد.
خطر جاسازی کد مخرب در مدلها
با کسب دسترسی ادمین به پایگاه دادهها یا رجیستریهای یادگیری ماشینی، مهاجمان میتوانند کد مخرب را در مدلها جاسازی کنند و دروازههای پشتی ایجاد کنند که هنگام بارگذاری مدل فعال میشوند. این کار میتواند فرآیندهای پاییندستی را به خطر بیندازد زیرا مدلها توسط تیمهای مختلف و خط لولههای CI/CD استفاده میشوند. مهاجمان بدین ترتیب میتوانند دادههای حساس را خارج کنند یا حملات مسمومسازی مدل را برای کاهش کارایی مدل یا دستکاری خروجیها انجام دهند.
شکاف عملیاتی در امنیت
یافتههای یک شکاف عملیاتی در امنیت را برجسته میکند. تعداد زیادی از سازمانها ادغام قوی از روشهای امنیتی AI/ML با استراتژیهای گستردهتر امنیت سایبری ندارند و این امر باعث ایجاد نقاط کور بالقوه میشود. با توجه به پیشرفتهای سریع صنعت در حوزه ML و، محافظت از چارچوبها، مجموعه دادهها و مدلهایی که این نوآوریها را تقویت میکنند، از اهمیت بالایی برخوردار است.
