Искусственное увеличение затрат

Оригинал: Cost Harvesting

Злоумышленники могут намеренно нагружать ИИ-сервисы жертвы сверх штатной пропускной способности, чтобы увеличить стоимость обслуживания. Этого можно добиться с помощью большого числа простых запросов (чрезмерные запросы) или небольшого числа сложных запросов (ресурсоемкие запросы). В системах генеративного или агентного ИИ состязательные промпты могут внедряться в контекст модели, чтобы вызвать потребление ресурсов агентом.

В отличие от захвата ресурсов, при котором злоумышленники могут использовать вычислительные ресурсы, память или хранилища ИИ для собственных целей, искусственное увеличение затрат сосредоточено на ресурсной нагрузке на сервис, чтобы в конечном счете нанести жертве финансовый ущерб.

Искусственное увеличение затрат особенно актуально для облачных AI/ML-платформ с оплатой по факту использования, например LLM API, сервисов генерации изображений и vision-language-пайплайнов. Манипулируя объемом или сложностью запросов, злоумышленник может:

• Увеличить потребление вычислительных ресурсов или хранилища жертвы, что приводит к росту операционных затрат.

• Запустить механизмы автомасштабирования, которые выделяют дополнительные ресурсы, еще сильнее увеличивая стоимость и область воздействия.

• Перегрузить внутренние очереди или GPU/TPU-пайплайны, вызывая всплески задержек, ограничение запросов или полную недоступность сервиса для легитимных пользователей.

Тактики

Подтехники

Меры защиты