Информационно - коммуникационные и химические технологии

Том_ 2 № 27 (2025) / 2025-06-28 / Кол. просмотров: 248

МОДЕЛИРОВАНИЕ И СМЯГЧЕНИЕ АТАК ОТРАВЛЕНИЯ ДАННЫХ В МАШИННОМ ОБУЧЕНИИ

Авторы

Astana IT University
https://orcid.org/0000-0002-5715-4954
Карагандинский университет Казпотребсоюза
https://orcid.org/0000-0001-9273-7402
Астраханский государственный технический университет
https://orcid.org/0000-0001-7231-5368
Карагандинский университет Казпотребсоюза
https://orcid.org/0009-0000-3268-867X
Карагандинский университет Казпотребсоюза
https://orcid.org/0000-0002-9677-0266

Ключевые слова

машинное обучение (ML), атаки с искажением данных, атаки на доступность, ансамблевое обучение, прогнозирование внеплановой ошибки

DOI ссылка:

https://doi.org/10.58805/kazutb.v.2.27-891

Как цитировать

Амирова, А., и др. «МОДЕЛИРОВАНИЕ И СМЯГЧЕНИЕ АТАК ОТРАВЛЕНИЯ ДАННЫХ В МАШИННОМ ОБУЧЕНИИ». Вестник КазУТБ, т. 2, вып. 27, июнь 2025 г., doi:10.58805/kazutb.v.2.27-891.

Аннотация

Модели машинного обучения (ML) все чаще используются в критически важных приложениях и, следовательно, уязвимы для состязательных атак. Атака отравления данных – одна из таких угроз, при которой злоумышленник внедряет специально разработанные образцы в обучающие данные, что может привести к внезапному падению точности модели или даже намеренно исказить ее решения в пользу злоумышленника. В  статье приведено моделирование атаки отравления данных на машинное обучение с использованием MATLAB. Экспериментальные результаты показывают, что отравление данных может значительно снизить точность классификации, но использование методов очистки данных позволяет восстановить производительность модели. Также был предложен метод смягчения данного вида атак, объединяющий идеи ансамблевого обучения, оценки прогнозирование внеплановой ошибки и фильтрации маргинальных выбросов. Хотя основные компоненты метода широко известны, их комбинация для борьбы с атаками отравления данных является оригинальной. Визуализация данных, построение границы принятия решений и анализ точности подтверждают эффективность мер защиты. Предложенный подход может быть полезен для разработчиков безопасных систем машинного обучения и исследователей, изучающих устойчивость моделей к враждебным воздействиям. Будущие исследования могут быть сосредоточены на разработке более продвинутых механизмов защиты, таких как методы обучения на основе доверия или адаптивные алгоритмы обнаружения атак.