Обнаружение состязательных входных данных
Оригинал: Adversarial Input Detection
Выявляйте и блокируйте состязательные входные данные или нетипичные запросы, которые отклоняются от известного безопасного поведения, демонстрируют паттерны поведения, наблюдавшиеся в предыдущих атаках, или поступают с потенциально вредоносных IP-адресов.
Встраивайте алгоритмы обнаружения состязательных входных данных в ИИ-систему перед ИИ-моделью.
Связанные техники
Предотвращает внесение злоумышленником состязательных данных в систему.
AML.T0029Отказ в обслуживании ИИ-сервисаОценивайте запросы до вызова инференса или применяйте политику таймаутов для запросов, потребляющих чрезмерные ресурсы.
AML.T0031Нарушение целостности ИИ-моделиВстраивайте обнаружение состязательных входных данных в пайплайн до того, как входные данные достигнут модели.
AML.T0043Создание состязательных данныхВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.
AML.T0043.000Оптимизация в режиме белого ящикаВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.
AML.T0043.001Оптимизация в режиме чёрного ящикаОтслеживайте запросы и паттерны запросов к целевой модели и блокируйте доступ при обнаружении подозрительных запросов.
AML.T0043.002Перенос на модель чёрного ящикаВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.
AML.T0043.003Ручная модификацияВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.
AML.T0043.004Добавление бэкдор-триггераВстраивайте обнаружение состязательных входных данных, чтобы блокировать вредоносные входные данные во время инференса.