Меню
Том 2 № 27 (2025) / 2025-06-28 / Көрілім саны: 248
Авторлар
Кілтті сөздер
DOI сілтемесі:
Қалай дәйексөз келтіруге болады
Машиналық оқыту (ML) үлгілері миссия үшін маңызды қолданбаларда көбірек пайдаланылады және сондықтан қарсыластық шабуылдарына осал. Деректерді улану шабуылы - шабуылдаушы жаттығу деректеріне арнайы әзірленген үлгілерді енгізетін осындай қауіптердің бірі, бұл модель дәлдігінің кенеттен төмендеуіне әкелуі мүмкін немесе тіпті оның шешімдерін шабуылдаушы пайдасына әдейі бұрмалауы мүмкін. Бұл мақалада MATLAB көмегімен машиналық оқытудағы деректерді улану шабуылының симуляциясы ұсынылған. Эксперименттік нәтижелер деректерді улану жіктеу дәлдігін айтарлықтай төмендетуі мүмкін екенін көрсетеді, бірақ деректерді тазалау әдістерін пайдалану үлгі өнімділігін қалпына келтіре алады. Сондай-ақ ансамбльдік оқыту, бағалау, жоспарланбаған қателерді болжау және шекті шектен шығуларды сүзгілеу идеяларын біріктіретін шабуылдың осы түрін жұмсарту әдісі ұсынылды. Әдістің негізгі құрамдас бөліктері кеңінен белгілі болғанымен, деректердің улану шабуылдарымен күресу үшін олардың комбинациясы түпнұсқа болып табылады. Деректерді визуализациялау, шешім шекарасын құру және дәлдік талдауы қорғау шараларының тиімділігін растайды. Ұсынылған тәсіл қауіпсіз машиналық оқыту жүйелерін әзірлеушілер мен модельдердің дұшпандық әсерлерге төзімділігін зерттейтін зерттеушілер үшін пайдалы болуы мүмкін. Болашақ зерттеулер сенімге негізделген оқыту әдістері немесе бейімді шабуылдарды анықтау алгоритмдері сияқты жетілдірілген қорғаныс механизмдерін әзірлеуге бағытталуы мүмкін.