Добавление бэкдор-триггера
Оригинал: Insert Backdoor Trigger
Злоумышленник может встроить бэкдор-триггер во входные данные, подаваемые на инференс. Такой триггер может быть незаметен или неочевиден для человека. Эта техника применяется вместе с отравлением ИИ-модели и позволяет злоумышленнику добиться нужного эффекта в целевой модели.
Тактики
Родительская техника
Другие подтехники родителя
Меры защиты
Усиленные модели более устойчивы к состязательным входным данным.
AML.M0006Использование ансамблевых методовИспользование ансамбля моделей усложняет создание эффективных состязательных данных и повышает общую устойчивость.
AML.M0008Валидация ИИ-моделиПроверка того, что ИИ-модель не реагирует на бэкдор-триггеры, может повысить уверенность в том, что модель не была отравлена.
AML.M0010Восстановление входных данныхВосстановление входных данных может помогать исправлять состязательные входные данные.
AML.M0015Обнаружение состязательных входных данныхВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.