Оптимизация в режиме белого ящика
Оригинал: White-Box Optimization
При оптимизации в режиме белого ящика злоумышленник имеет полный доступ к целевой модели и напрямую оптимизирует состязательный пример. Состязательные примеры, обученные таким способом, наиболее эффективны против целевой модели.
Тактики
Родительская техника
Другие подтехники родителя
Меры защиты
Усиленные модели более устойчивы к состязательным входным данным.
AML.M0005Контроль доступа к ИИ-моделям и хранимым даннымКонтроль доступа может сократить избыточный доступ к ИИ-моделям и не дать злоумышленнику получить доступ в режиме белого ящика.
AML.M0006Использование ансамблевых методовИспользование ансамбля моделей усложняет создание эффективных состязательных данных и повышает общую устойчивость.
AML.M0010Восстановление входных данныхВосстановление входных данных может помогать исправлять состязательные входные данные.
AML.M0015Обнаружение состязательных входных данныхВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.
AML.M0017Методы распространения ИИ-моделейПри полном доступе к модели злоумышленник может проводить атаки в режиме белого ящика.
Примеры процедур из кейсов
Используя целевую модель и данные, красная команда в офлайн-режиме подготовила состязательные данные, рассчитанные на обход модели.
AML.CS0012Обход системы идентификации лиц с помощью физических контрмерИспользуя прокси-модель, красная команда оптимизировала состязательные визуальные паттерны для атаки с физической наклейкой на основе метода expectation over transformation.
AML.CS0058Извлечение ИИ-моделей из Google PhotosВосстановленные модели TensorFlow Lite могли использоваться для генерации состязательных примеров в режиме белого ящика.