Меню
Том_ 2 № 27 (2025) / 2025-06-28 / Кол. просмотров: 248
Авторы
Ключевые слова
Модели машинного обучения (ML) все чаще используются в критически важных приложениях и, следовательно, уязвимы для состязательных атак. Атака отравления данных – одна из таких угроз, при которой злоумышленник внедряет специально разработанные образцы в обучающие данные, что может привести к внезапному падению точности модели или даже намеренно исказить ее решения в пользу злоумышленника. В статье приведено моделирование атаки отравления данных на машинное обучение с использованием MATLAB. Экспериментальные результаты показывают, что отравление данных может значительно снизить точность классификации, но использование методов очистки данных позволяет восстановить производительность модели. Также был предложен метод смягчения данного вида атак, объединяющий идеи ансамблевого обучения, оценки прогнозирование внеплановой ошибки и фильтрации маргинальных выбросов. Хотя основные компоненты метода широко известны, их комбинация для борьбы с атаками отравления данных является оригинальной. Визуализация данных, построение границы принятия решений и анализ точности подтверждают эффективность мер защиты. Предложенный подход может быть полезен для разработчиков безопасных систем машинного обучения и исследователей, изучающих устойчивость моделей к враждебным воздействиям. Будущие исследования могут быть сосредоточены на разработке более продвинутых механизмов защиты, таких как методы обучения на основе доверия или адаптивные алгоритмы обнаружения атак.