Инструменты ИИ-агента
Оригинал: AI Agent Tools
Злоумышленники могут через промпт заставить ИИ-сервис вызвать различные инструменты, к которым имеет доступ ИИ-агент. Инструменты могут извлекать данные из разных API или сервисов организации.
Тактики
Родительская техника
Другие подтехники родителя
Меры защиты
Логируйте запросы к ИИ-сервисам для обнаружения вредоносных запросов к данным.
AML.M0026Настройка разрешений привилегированного ИИ-агентаНадлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать данные через вызов инструментов агента при компрометации агента.
AML.M0027Настройка разрешений ИИ-агента одного пользователяНастройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать данные через вызов инструментов агента при компрометации агента.
AML.M0028Настройка разрешений инструментов ИИ-агентаНастройка инструментов ИИ-агента с контролем доступа, унаследованным от пользователя или вызывающего их ИИ-агента, может ограничить доступ злоумышленника к чувствительным данным.
AML.M0032Сегментация компонентов ИИ-агентаСегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора чувствительных данных.
Примеры процедур из кейсов
Промпт просит агента получить все записи Salesforce с помощью инструмента `get-records`. Агент извлекает все записи из CRM организации-жертвы.
AML.CS0038Внедрение инструкций для отложенного автоматического вызова инструмента ИИ-агентаРасширение Workspace находило документ и помещало его содержимое в контекст чата.
AML.CS0039Living Off AI: промпт-инъекция через Jira Service ManagementВредоносный промпт предписывал собрать все сведения из других задач. Это вызывало инструмент Atlassian MCP, который мог обращаться к Jira-тикетам и собирать их.