Методы распространения ИИ-моделей
Оригинал: AI Model Distribution Methods
Развертывание ИИ-моделей на периферийных устройствах может увеличить поверхность атаки системы.
Рассмотрите возможность развертывать модели в облаке, чтобы снизить уровень доступа злоумышленника к модели.
Также рассмотрите возможность вычислять признаки в облаке, чтобы предотвратить атаки в режиме серого ящика, при которых злоумышленник имеет доступ к методам предобработки модели.
Связанные техники
Злоумышленник может переупаковать приложение с вредоносной версией модели.
AML.T0035Сбор ИИ-артефактовОтказ от развертывания моделей на периферийных устройствах уменьшает поверхность атаки и может предотвратить сбор артефактов злоумышленником.
AML.T0043.000Оптимизация в режиме белого ящикаПри полном доступе к модели злоумышленник может проводить атаки в режиме белого ящика.
AML.T0044Полный доступ к ИИ-моделиОтказ от распространения модели в ПО для периферийных устройств может ограничить способность злоумышленника получить полный доступ к модели.
AML.T0048.004Кража интеллектуальной собственности ИИОтказ от развертывания моделей на периферийных устройствах снижает потенциальный доступ злоумышленника к моделям или ИИ-артефактам.
AML.T0063Выявление выходных данных ИИ-моделиОтказ от развертывания моделей на периферийных устройствах снижает способность злоумышленника собирать чувствительную информацию о выходных данных модели.