Определения инструментов
Оригинал: Tool Definitions
Злоумышленники могут выявлять инструменты, к которым имеет доступ ИИ-агент. Определив доступные инструменты, злоумышленник может понять, какие действия можно выполнить через агента и к каким дополнительным ресурсам он может получить доступ. Эти сведения могут раскрыть доступ к внешним источникам данных, таким как OneDrive или SharePoint, либо выявить пути эксфильтрации, например возможность отправлять электронные письма. Это помогает злоумышленникам определить ИИ-агентов, которые представляют наибольшую ценность или открывают лучшие возможности для атаки.
Тактики
Родительская техника
Другие подтехники родителя
Примеры процедур из кейсов
Исследователи делают вывод, что у ИИ-агента есть инструмент для отправки писем.
AML.CS0037Эксфильтрация данных через инструменты ИИ-агента в Copilot StudioИсследователи обнаруживают, что ИИ-агент имеет доступ к инструменту Salesforce `get-records`, который можно использовать для получения записей CRM.