Извлечение ИИ-модели
Оригинал: Extract AI Model
Злоумышленники могут извлечь функциональную копию приватной модели.
Многократно обращаясь к API инференса ИИ-модели организации-жертвы, злоумышленник может собрать результаты инференса целевой модели в набор данных.
Эти результаты используются как метки для офлайн-обучения отдельной модели, которая будет имитировать поведение и производительность целевой модели.
Злоумышленники могут извлекать модель, чтобы не платить за каждый запрос при использовании искусственного интеллекта как сервиса (AIaaS).
Извлечение модели используется для кражи интеллектуальной собственности ИИ.
Тактики
Родительская техника
Другие подтехники родителя
Меры защиты
Рекомендуемые подходы:
- ограничить количество показываемых результатов
- ограничить детализацию онтологии выходных классов
- использовать методы рандомизированного сглаживания
- снизить точность числовых выходных данных
Ограничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.
AML.M0024Логирование телеметрии ИИЛогирование телеметрии может помочь выявить эксфильтрацию чувствительных данных.