Зондирование каналов запуска ИИ-агента

Оригинал: Probe AI Agent Trigger Channels

Злоумышленники могут отправлять специально сформированные входные данные в потенциальные общедоступные точки запуска, такие как адреса электронной почты, вебхуки или каналы обмена сообщениями, чтобы вызвать ответ, указывающий на запуск работы ИИ-агента. Характер и содержание ответа часто позволяют выявить учётные записи, которыми управляют ИИ-агенты, и дополнительную поверхность атак на ИИ-агентов. Выявленные точки запуска могут использоваться для прямой атаки на агента.

Тактики

AML.TA0002Разведка

Родительская техника

AML.T0006Активное сканирование

Другие подтехники родителя

AML.T0006.000Получение списка размещённых ресурсов ИИПодтехника AML.T0006.001Запросы к API метаданных платформПодтехника AML.T0006.002Сканирование для поиска доступной из интернета инфраструктуры ИИПодтехника

Меры защиты

AML.M0039ИИ-ханипоты

Фиксируя действия злоумышленников по распознаванию систем и сервисов, ханипоты могут помогать на раннем этапе сигнализировать о массовом поиске доступных извне ИИ-целей и выявлять поверхности атак, которые исследуют злоумышленники.

Примеры процедур из кейсов

AML.CS0037Эксфильтрация данных через инструменты ИИ-агента в Copilot StudioАктор: Zenity / Тактика: AML.TA0002 Разведка

Исследователи ищут на сайте целевой организации адреса электронной почты службы поддержки, которые могут обслуживаться ИИ-агентом. Затем они проверяют систему: отправляют письма и ищут в автоматических ответах признаки работы ИИ-агента.