ISSN 2071-8632
Язык: ru

Статья: АНАЛИЗ УЯЗВИМОСТЕЙ НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ РАСПОЗНАВАНИЯ ОБРАЗОВ (2023)

Читать онлайн

В статье рассмотрена актуальная проблема уязвимости технологий искусственного интеллекта на основе нейронных сетей в задаче распознавания образов. Показано, что применение нейронных сетей порождает множество уязвимостей. Приведены конкретные примеры таких уязвимостей: некорректная классификация изображений, содержащих вредоносный шум или заплатки, отказ распознающих систем при наличии на изображении особых узоров, в том числе нанесенных на объекты реального мира, отравление обучающей выборки и др. На основе проведенного анализа показана необходимость улучшения безопасности технологий искусственного интеллекта и даны предложения, способствующие этому улучшению

Ключевые фразы: АТАКИ НА НЕЙРОННЫЕ СЕТИ, вредоносные изображения, нейросетевая безопасность, нейронные сети
Автор (ы): Трусов Антон Всеволодович, Лимонова Елена Евгеньевна, Арлазаров Владимир Викторович, Зацаринный Александр Алексеевич
Журнал: ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ И ВЫЧИСЛИТЕЛЬНЫЕ СИСТЕМЫ

Идентификаторы и классификаторы

УДК
004.032.26. Нейронные сети
Для цитирования:
ТРУСОВ А. В., ЛИМОНОВА Е. Е., АРЛАЗАРОВ В. В., ЗАЦАРИННЫЙ А. А. АНАЛИЗ УЯЗВИМОСТЕЙ НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ РАСПОЗНАВАНИЯ ОБРАЗОВ // ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ И ВЫЧИСЛИТЕЛЬНЫЕ СИСТЕМЫ. 2023. № 4
Текстовый фрагмент статьи
Моя история просмотров (10)