Выявление семейства ИИ-модели
Оригинал: Discover AI Model Family
Злоумышленники могут выявлять общее семейство модели.
Общие сведения о модели могут быть раскрыты в документации, либо злоумышленник может использовать специально подготовленные примеры и анализировать ответы модели, чтобы классифицировать ее.
Знание семейства модели может помочь злоумышленнику определить способы атаки на модель и адаптировать атаку под нее.
Тактики
Меры защиты
AML.M0002Пассивная обфускация выходных данных ИИ
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Ограничьте объем информации об онтологии модели, которую злоумышленник может получить через запросы к API.
AML.M0006Использование ансамблевых методовИспользуйте несколько разных моделей, чтобы запутать злоумышленников относительно типа используемой модели и способа ее применения.