Ақпараттық-коммуникациялық және химиялық технология

Том 2 № 27 (2025) / 2025-06-28 / Көрілім саны: 248

МАШИНАЛЫҚ ОҚЫТУДАҒЫ ДЕРЕКТЕРДІ БҰЗУ ШАБУЫЛДАРЫН МОДЕЛЬДЕУ ЖӘНЕ ОНЫ ЖЕҢІЛДЕТУ

Авторлар

Astana IT University
https://orcid.org/0000-0002-5715-4954
Қазтұтынуодағы Қарағанды университеті
https://orcid.org/0000-0001-9273-7402
Астрахань мемлекеттік техникалық университеті
https://orcid.org/0000-0001-7231-5368
Қазтұтынуодағы Қарағанды университеті
https://orcid.org/0009-0000-3268-867X
Қазтұтынуодағы Қарағанды университеті
https://orcid.org/0000-0002-9677-0266

Кілтті сөздер

машиналық оқыту (ML), деректерді бұзу шабуылдары, қолжетімділік шабуылдары, ансамбльді оқыту, жоспарланбаған қателерді болжау

DOI сілтемесі:

https://doi.org/10.58805/kazutb.v.2.27-891

Қалай дәйексөз келтіруге болады

Амирова, А., et al. «МАШИНАЛЫҚ ОҚЫТУДАҒЫ ДЕРЕКТЕРДІ БҰЗУ ШАБУЫЛДАРЫН МОДЕЛЬДЕУ ЖӘНЕ ОНЫ ЖЕҢІЛДЕТУ». ҚазТБУ хабаршысы, вип. 2, вип. 27, Червень 2025, doi:10.58805/kazutb.v.2.27-891.

Аңдатпа

Машиналық оқыту (ML) үлгілері миссия үшін маңызды қолданбаларда көбірек пайдаланылады және сондықтан қарсыластық шабуылдарына осал. Деректерді улану шабуылы - шабуылдаушы жаттығу деректеріне арнайы әзірленген үлгілерді енгізетін осындай қауіптердің бірі, бұл модель дәлдігінің кенеттен төмендеуіне әкелуі мүмкін немесе тіпті оның шешімдерін шабуылдаушы пайдасына әдейі бұрмалауы мүмкін. Бұл мақалада MATLAB көмегімен машиналық оқытудағы деректерді улану шабуылының симуляциясы ұсынылған. Эксперименттік нәтижелер деректерді улану жіктеу дәлдігін айтарлықтай төмендетуі мүмкін екенін көрсетеді, бірақ деректерді тазалау әдістерін пайдалану үлгі өнімділігін қалпына келтіре алады. Сондай-ақ ансамбльдік оқыту, бағалау, жоспарланбаған қателерді болжау және шекті шектен шығуларды сүзгілеу идеяларын біріктіретін шабуылдың осы түрін жұмсарту әдісі ұсынылды. Әдістің негізгі құрамдас бөліктері кеңінен белгілі болғанымен, деректердің улану шабуылдарымен күресу үшін олардың комбинациясы түпнұсқа болып табылады. Деректерді визуализациялау, шешім шекарасын құру және дәлдік талдауы қорғау шараларының тиімділігін растайды. Ұсынылған тәсіл қауіпсіз машиналық оқыту жүйелерін әзірлеушілер мен модельдердің дұшпандық әсерлерге төзімділігін зерттейтін зерттеушілер үшін пайдалы болуы мүмкін. Болашақ зерттеулер сенімге негізделген оқыту әдістері немесе бейімді шабуылдарды анықтау алгоритмдері сияқты жетілдірілген қорғаныс механизмдерін әзірлеуге бағытталуы мүмкін.