Пассивная обфускация выходных данных ИИ
Оригинал: Passive AI Output Obfuscation
Снижение точности и детализации выходных данных модели, предоставляемых конечному пользователю, может уменьшить способность злоумышленника извлекать информацию о модели и оптимизировать атаки против нее.
Связанные техники
Обфускация выходных данных модели может снизить способность злоумышленника создать точную прокси-модель.
AML.T0005.001Обучение прокси-модели через репликациюОбфускация выходных данных модели ограничивает способность злоумышленника создать точную прокси-модель, запрашивая модель и наблюдая ее выходные данные.
AML.T0013Выявление онтологии ИИ-моделиРекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Обфускация выходных данных модели снижает способность злоумышленника проверять эффективность атаки.
AML.T0043Создание состязательных данныхОбфускация выходных данных модели снижает способность злоумышленника генерировать эффективные состязательные данные.
AML.T0043.001Оптимизация в режиме чёрного ящикаОбфускация выходных данных модели снижает способность злоумышленника создавать эффективные состязательные входные данные.
AML.T0063Выявление выходных данных ИИ-моделиОбфускация выходных данных модели может помешать злоумышленникам собирать чувствительную информацию о выходных данных модели.