Контроль доступа к ИИ-моделям и данным в продакшене
Оригинал: Control Access to AI Models and Data in Production
Требуйте от пользователей подтверждать свою личность перед доступом к продакшен-модели.
Требуйте аутентификацию для API-эндпоинтов и отслеживайте запросы к продакшен-модели, чтобы контролировать соблюдение политик использования и предотвращать злоупотребление моделью.
Связанные техники
Контроль доступа к API моделей может снизить способность злоумышленника создать точную прокси-модель.
AML.T0024Эксфильтрация через API инференса ИИЗлоумышленники могут использовать неограниченный доступ к API, чтобы собрать обучающий набор данных для прокси-модели и раскрыть приватную информацию.
AML.T0029Отказ в обслуживании ИИ-сервисаКонтроль доступа к API модели может помешать злоумышленнику выполнять чрезмерное количество запросов и выводить систему из строя.
AML.T0034Искусственное увеличение затратКонтроль доступа может ограничивать доступ к API и предотвращать искусственное увеличение затрат.
AML.T0040Доступ к API инференса ИИ-моделиЗлоумышленники могут использовать неограниченный доступ к API, чтобы получить сведения о продакшен-системе, подготовить атаки и внедрить в систему вредоносные данные.
AML.T0042Проверка атакиИспользуйте контроль доступа в продакшене, чтобы помешать злоумышленнику проверять эффективность атаки.
AML.T0043Создание состязательных данныхКонтроль доступа к API модели может ограничить доступ злоумышленника, необходимый для генерации состязательных данных.
AML.T0043.001Оптимизация в режиме чёрного ящикаКонтроль доступа к API модели может лишить злоумышленников доступа, необходимого для методов оптимизации в режиме чёрного ящика.
AML.T0046Зашумление ИИ-системы нерелевантными даннымиАутентификация для моделей в продакшене может помочь предотвратить анонимный спам шумовыми данными.
AML.T0051Промпт-инъекция в LLMИспользуйте контроль доступа в продакшене, чтобы помешать злоумышленникам внедрять вредоносные промпты.
AML.T0063Выявление выходных данных ИИ-моделиКонтроль доступа к модели в продакшене может помочь помешать злоумышленникам извлекать информацию из выходных данных модели.