Оптимизация в режиме чёрного ящика

Обфускация выходных данных модели снижает способность злоумышленника создавать эффективные состязательные входные данные.

Усиленные модели более устойчивы к состязательным входным данным.

Ограничение количества запросов к модели ограничивает или замедляет способность злоумышленника проводить атаки с оптимизацией в режиме чёрного ящика.

Использование ансамбля моделей усложняет создание эффективных состязательных данных и повышает общую устойчивость.

Восстановление входных данных добавляет дополнительный слой неопределенности и случайности, когда злоумышленник оценивает связь между входом и выходом.

Отслеживайте запросы и паттерны запросов к целевой модели и блокируйте доступ при обнаружении подозрительных запросов.

Контроль доступа к API модели может лишить злоумышленников доступа, необходимого для методов оптимизации в режиме чёрного ящика.