Статья: ПРОБЛЕМА КОМПРОМЕТАЦИИ СИСТЕМЫ РАСПОЗНАВАНИЯ ИЗОБРАЖЕНИЙ ПУТЕМ ЦЕЛЕНАПРАВЛЕННОЙ ФАЛЬСИФИКАЦИИ ОБУЧАЮЩЕГО МНОЖЕСТВА

Скачать

Работа посвящена проблеме безопасности систем распознавания изображений, основанных на использовании нейронных сетей. Подобные системы применяются в различных областях и крайне важно обеспечить их безопасность от атак, направленных на методы искусственного интеллекта. Рассмотрены сверточная нейронная сеть ResNet18, проверочное множество ImageNet для распознавания объектов на изображении и отнесения его к классу и состязательные атаки, которые направлены на изменение изображения, обрабатываемые данной нейронной сетью. Сверточные нейронные сети детектируют и сегментируют объекты, которые находятся на изображениях. Атака совершалась на этапе детектирования для того, чтобы не распознавалось присутствие объектов на изображении, а также на этапе сегментации, измененное изображение относило распознанный объект к другому классу. Реализована серия экспериментов, которая показала, как состязательная атака изменяет разные изображения. Для этого взяты изображения с животными и на них совершена состязательная атака, анализ результатов позволил определить количество итераций, необходимых для совершения успешной атаки. Также проведено сравнение исходных изображений с их модифицированными в ходе атаки версиями.

Информация о документе

Формат документа: PDF
Кол-во страниц: 1 страница
Загрузил(а): Ажмухамедов Искандар
Лицензия: —
Доступ: Всем

Информация о статье

EISSN: 2310-6018
Журнал: МОДЕЛИРОВАНИЕ, ОПТИМИЗАЦИЯ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ
Год публикации: 2024
Автор(ы): Ажмухамедов И. М., Хмелёва А. А., Демина Р. Ю.
Ключевые фразы: нейронные сети, АТАКИ НА НЕЙРОННЫЕ СЕТИ, состязательные атаки, RESNET18, МАТРИЦА ПРЕВРАЩЕНИЙ
УДК: 004.83. Рассуждение

Статистика просмотров

Статистика просмотров статьи за 2025 год.

Ранее вы смотрели (8)

01. Статья: Фирмы-однодневки как инструмент незаконной банковской деятельности

02. Книга: АРХИТЕКТУРНО-СТРОИТЕЛЬНАЯ ФИЗИКА

03. Статья: ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В УГОЛОВНОЙ ЮСТИЦИИ РОССИЙСКОЙ ФЕДЕРАЦИИ И КИТАЙСКОЙ НАРОДНОЙ РЕСПУБЛИКИ: ВАЖНОСТЬ ГОСУДАРСТВЕННО-ПРАВОВОГО РЕГУЛИРОВАНИЯ

04. Статья: Новый метод противодействия состязательным атакам уклонения на информационные системы, основанные на искусственном интеллекте

05. Статья: Использование технологий системы распознавания лиц в вопросах предупреждения преступности отдельных категорий осужденных

06. Статья: ДЕЯТЕЛЬНОСТЬ РОССИЙСКИХ НЕФТЕГАЗОВЫХ КОМПАНИЙ В АРКТИКЕ: ТЕОРИЯ И ПРАКТИКА РЕЗИЛЬЕНТНОСТИ В ЭПОХУ ДЕКАРБОНИЗАЦИИ

07. Статья: Блокчейн как технологическое средство обеспечения авторско-правовой защиты результатов интеллектуальной деятельности

08. Статья: Расширение практики использования технологии блокчейн в рамках регистрационных процедур при защите объектов авторского права

Все права на тексты и товарные знаки принадлежат их законным владельцам. Подробнее...

Сайт https://scinetwork.ru (далее – Сайт) представляет собой платформу, на которой пользователи самостоятельно добавляют и публикуют метаинформацию о материалах разных видов (названия, обложки, аннотации, данные об авторах и т.п.). Администрация Сайта не занимается самостоятельным сбором или первоначальной публикацией этих сведений.

Модерация контента

На Сайте действует постмодерация. Это означает, что материалы, добавляемые пользователями, становятся общедоступными сразу после публикации и проверяются Администрацией Сайта постфактум в разумные сроки.

Использование информации

Администрация Сайта не использует метаданные и обложки документов в коммерческих или рекламных целях для продвижения товаров или услуг и не заявляет о каких-либо правах на представленные объекты интеллектуальной собственности. Все права на документы и сопутствующие материалы принадлежат их законным правообладателям.

Отказ от гарантий

Администрация Сайта не гарантирует точность, полноту и достоверность метаинформации, размещенной пользователями, поскольку не осуществляет ее предварительную проверку.

Ответственность

Сайт носит исключительно информационно-справочный характер. Администрация Сайта не несет ответственности за содержание и достоверность информации, добавленной пользователями, а также за любые убытки, возникшие в связи с использованием или невозможностью использования Сайта и размещенной на нем информации.