Ресурсоёмкие запросы
Оригинал: Resource-Intensive Queries
Злоумышленники могут создавать входные данные, специально рассчитанные на увеличение объёма вычислительных ресурсов, необходимых для обработки.
Для моделей генеративного ИИ злоумышленники могут использовать длинные входные последовательности, запросы на крайне длинные ответы или промпты, требующие сложных рассуждений, чтобы увеличить вычислительные затраты [[genai]]. Для vision- и language-моделей могут применяться «sponge examples» [[arxiv]], которые максимизируют энергопотребление и задержку принятия решения. Использование небольшого числа вычислительно затратных запросов вместо простого потока чрезмерных запросов может быть сложнее обнаружить, заблокировать или ограничить.