Прокси для ИИ-сервисов
Оригинал: AI Service Proxies
Злоумышленники могут использовать коммерческие прокси-сервисы, которые перепродают доступ к ИИ-сервисам, например API передовых моделей.
Эта инфраструктура может использоваться для проведения крупномасштабных кампаний по эксфильтрации через API инференса ИИ с помощью дистилляции. Злоумышленники также могут использовать эту инфраструктуру для генерации вредоносных команд в наступательных кибероперациях или для генерации содержимого для целевого фишинга через LLM для социальной инженерии.
Коммерческие прокси для ИИ-сервисов распределяют трафик между разными учетными записями и различными облачными платформами. Смешение трафика может затруднять обнаружение и блокирование вредоносной активности [[anthropic]].
Злоумышленники проводят атаки LLM Jacking, чтобы получить доступ к учетным записям жертв, доступ к которым они затем перепродают через свои прокси-сервисы [[sysdig]].