Сбор учетных данных через инструменты ИИ-агента

Оригинал: AI Agent Tool Credential Harvesting

Злоумышленники могут попытаться использовать доступ к ИИ-агенту в системе жертвы, чтобы извлечь данные через доступные инструменты агента и собрать учетные данные. Инструменты агента могут подключаться к широкому кругу источников, где могут храниться учетные данные: хранилищам документов, например SharePoint, OneDrive или Google Drive, репозиториям кода, например GitHub или GitLab, корпоративным инструментам продуктивности, например почтовым сервисам или Slack, а также локальным приложениям для заметок, например Obsidian или Apple Notes.

Тактики

AML.TA0013Доступ к учетным данным

Меры защиты

AML.M0032Сегментация компонентов ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора учетных данных.

Примеры процедур из кейсов

AML.CS0048Публично доступные интерфейсы управления ClawdBot позволили получить учетные данные и выполнить командыАктор: Jamieson O'Reilly / Тактика: AML.TA0013 Доступ к учетным данным

Исследователь отправил ClawdBot промпт `env`; в ответ ClawdBot вызвал навык `bash` и выполнил команду `env`, вывод которой содержал дополнительные секреты для других сервисов.

AML.CS0054Эксфильтрация данных через удаленный отравленный MCP-инструментАктор: Invariant Labs / Тактика: AML.TA0013 Доступ к учетным данным

Промпт инструктировал ИИ-агента прочитать `mcp.json`, где часто хранятся учетные данные для других MCP-серверов.