Перенос на модель чёрного ящика

Оригинал: Black-Box Transfer

При атаках с переносом на модель чёрного ящика злоумышленник использует одну или несколько прокси-моделей, к которым у него есть полный доступ и которые близки по поведению к целевой модели. Такие прокси-модели могут быть обучены через создание прокси-модели ИИ или обучение прокси через репликацию. Злоумышленник применяет оптимизацию в режиме белого ящика к прокси-моделям, чтобы сгенерировать состязательные примеры. Если набор прокси-моделей достаточно близок к целевой модели, состязательный пример должен переноситься с одной модели на другую. Это означает, что атака, работающая против прокси-моделей, с высокой вероятностью сработает и против целевой модели. Если у злоумышленника есть доступ к API инференса ИИ-модели, он может использовать проверку атаки, чтобы подтвердить работоспособность атаки и учесть эту информацию в процессе обучения.

Тактики

Родительская техника

Другие подтехники родителя

Меры защиты

Примеры процедур из кейсов