Выявление возможностей ИИ-агента во время работы
Оригинал: Discover AI Agent Runtime Capabilities
Злоумышленники могут взаимодействовать с ИИ-агентом во время его работы, чтобы выявить доступные ему возможности. Для этого им не требуется доступ к конфигурации агента. Прямое взаимодействие с агентом может раскрыть зарегистрированные у него инструменты и принимаемые ими параметры, действия, которые он может выполнять, доступные ему ресурсы, а также то, от чьего имени и с какими правами он действует. О возможностях агента также можно судить косвенно: отправлять различные запросы и наблюдать, какие выполнены успешно, какие завершились ошибкой, а какие агент отказался выполнять.
ИИ-агенты часто подключены к корпоративным ресурсам, инструментам и базам данных либо встроены в SaaS-платформы и для выполнения своих функций имеют разрешения действовать от имени пользователей. Выявив работающего агента, к которому у них есть доступ, злоумышленники могут исследовать его поверхность атак: проверять его функциональность, выявлять его инструменты и возможности, доступные ему знания, а также встроенные учётные данные и разрешения.
Такое исследование часто раскрывает полный набор инструментов ИИ-агента и сведения о его конфигурации, открывая дополнительные возможности эксплуатации с помощью техники Вызов инструментов ИИ-агента. Полученные сведения облегчают дальнейшую эксплуатацию, включая Первичный доступ, Закрепление, Повышение привилегий и Эксфильтрацию.