Ограничение количества запросов к ИИ-модели
Оригинал: Restrict Number of AI Model Queries
Ограничьте общее количество и частоту запросов, которые может выполнять пользователь.
Связанные техники
Ограничение количества запросов к модели снижает способность злоумышленника реплицировать точную прокси-модель.
AML.T0005.001Обучение прокси-модели через репликациюОграничение количества запросов к модели снижает способность злоумышленника реплицировать точную прокси-модель.
AML.T0013Выявление онтологии ИИ-моделиОграничьте объем информации об онтологии модели, которую злоумышленник может получить через запросы к API.
AML.T0014Выявление семейства ИИ-моделиОграничьте объем информации об онтологии модели, которую злоумышленник может получить через запросы к API.
AML.T0024Эксфильтрация через API инференса ИИОграничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.
AML.T0024.000Определение принадлежности к обучающей выборкеОграничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.
AML.T0024.001Инверсия ИИ-моделиОграничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.
AML.T0024.002Извлечение ИИ-моделиОграничьте объем API-запросов за заданный период, чтобы регулировать объем и детализацию потенциально чувствительной информации, которую может получить злоумышленник.
AML.T0029Отказ в обслуживании ИИ-сервисаОграничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы предотвратить отказ в обслуживании.
AML.T0034Искусственное увеличение затратОграничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы затруднить злоумышленнику отправку вычислительно затратных входных данных.
AML.T0042Проверка атакиОграничение количества запросов к модели снижает способность злоумышленника проверять эффективность атаки.
AML.T0043Создание состязательных данныхОграничение количества запросов к модели может снизить способность злоумышленника уточнять и оценивать состязательные запросы.
AML.T0043.001Оптимизация в режиме чёрного ящикаОграничение количества запросов к модели ограничивает или замедляет способность злоумышленника проводить атаки с оптимизацией в режиме чёрного ящика.
AML.T0043.003Ручная модификацияОграничение количества запросов к модели может снизить способность злоумышленника уточнять вручную созданные состязательные входные данные.
AML.T0046Зашумление ИИ-системы нерелевантными даннымиОграничьте количество запросов, которые пользователи могут выполнять за заданный интервал, чтобы защитить систему от спама шумовыми данными.
AML.T0062Выявление галлюцинированных сущностей LLMОграничение количества запросов к модели ограничивает или замедляет способность злоумышленника выявлять возможные галлюцинации.