Ограничение публичного раскрытия информации
Оригинал: Limit Public Release of Information
Ограничьте публичное раскрытие технической информации об ИИ-стеке, используемом в продуктах или сервисах организации. Технические сведения о том, как используется ИИ, могут быть использованы злоумышленниками для выбора целей и адаптации атак к целевой системе. Кроме того, рассмотрите возможность ограничить раскрытие организационной информации, включая физические адреса, имена исследователей и структуру подразделений, на основании которой можно вывести технические детали, такие как техники ИИ, архитектуры моделей или наборы данных.
Связанные техники
Ограничьте связь между публично раскрытыми подходами и данными, моделями и алгоритмами, используемыми в продакшене.
AML.T0002Получение публичных ИИ-артефактовОграничьте публикацию чувствительной информации в метаданных развернутых систем и публично доступных приложений.
AML.T0003Поиск на сайтах организации-жертвыОграничьте публикацию технической информации о продуктах с поддержкой ML и организационной информации о командах, сопровождающих такие продукты.
AML.T0004Поиск в репозиториях приложенийОграничьте публикацию чувствительной информации в метаданных развернутых систем и публично доступных приложений.
AML.T0005Создание прокси-модели ИИОграничение публикации технической информации о модели и обучающих данных может снизить способность злоумышленника создать точную прокси-модель.
AML.T0005.000Обучение прокси-модели на собранных ИИ-артефактахОграничение публикации технической информации о модели и обучающих данных может снизить способность злоумышленника создать точную прокси-модель.
AML.T0005.002Использование предварительно обученной моделиОграничение публикации технической информации о модели и обучающих данных может снизить способность злоумышленника создать точную прокси-модель.