Ограничение количества запросов к ИИ-модели

Оригинал: Restrict Number of AI Model Queries

Ограничьте общее количество и частоту запросов, которые может выполнять пользователь.

Связанные техники

AML.T0005Создание прокси-модели ИИ

Ограничение количества запросов к модели снижает способность злоумышленника реплицировать точную прокси-модель.

AML.T0005.001Обучение прокси-модели через репликацию

Ограничение количества запросов к модели снижает способность злоумышленника реплицировать точную прокси-модель.

AML.T0013Выявление онтологии ИИ-модели

Ограничьте объем информации об онтологии модели, которую злоумышленник может получить через запросы к API.

AML.T0014Выявление семейства ИИ-модели

Ограничьте объем информации об онтологии модели, которую злоумышленник может получить через запросы к API.

AML.T0024Эксфильтрация через API инференса ИИ

Ограничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.

AML.T0024.000Определение принадлежности к обучающей выборке

Ограничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.

AML.T0024.001Инверсия ИИ-модели

Ограничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.

AML.T0024.002Извлечение ИИ-модели

Ограничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.

AML.T0029Отказ в обслуживании ИИ-сервиса

Ограничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы предотвратить отказ в обслуживании.

AML.T0034Искусственное увеличение затрат

Ограничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы затруднить злоумышленнику отправку вычислительно затратных входных данных.

AML.T0042Проверка атаки

Ограничение количества запросов к модели снижает способность злоумышленника проверять эффективность атаки.

AML.T0043Создание состязательных данных

Ограничение количества запросов к модели может снизить способность злоумышленника уточнять и оценивать состязательные запросы.

AML.T0043.001Оптимизация в режиме чёрного ящика

Ограничение количества запросов к модели ограничивает или замедляет способность злоумышленника проводить атаки с оптимизацией в режиме чёрного ящика.

AML.T0043.003Ручная модификация

Ограничение количества запросов к модели может снизить способность злоумышленника уточнять вручную созданные состязательные входные данные.

AML.T0046Зашумление ИИ-системы нерелевантными данными

Ограничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы защитить систему от спама шумовыми данными.

AML.T0062Выявление галлюцинированных сущностей LLM

Ограничение количества запросов к модели ограничивает или замедляет способность злоумышленника выявлять возможные галлюцинации.