Отравленный инструмент ИИ-агента

Оригинал: Poisoned AI Agent Tool

Жертва может вызвать отравленный инструмент при взаимодействии со своим ИИ-агентом. Отравленный инструмент может выполнить промпт-инъекцию в LLM или инициировать вызов инструмента ИИ-агента.

Отравленные инструменты ИИ-агентов могут внедряться в среду жертвы через ПО для ИИ, либо пользователь может настроить своего агента на подключение к удаленным инструментам.

Тактики

AML.TA0005Выполнение

Родительская техника

AML.T0011Запуск пользователем

Другие подтехники родителя

AML.T0011.000Небезопасные ИИ-артефактыПодтехника AML.T0011.001Вредоносный пакетПодтехника AML.T0011.003Вредоносная ссылкаПодтехника

Примеры процедур из кейсов

AML.CS0049Компрометация цепочки поставки через отравленный навык ClawdBotАктор: Jamieson O'Reilly / Тактика: AML.TA0005 Выполнение

Когда пользователь спрашивал Claude Code: "what would Elon do?", Claude Code вызывал отравленный навык.

AML.CS0053Эксфильтрация писем через отравленный MCP-сервер PostmarkАктор: Unknown Bad Actor / Тактика: AML.TA0005 Выполнение

Когда пользователи в организации-жертве поручали своему ИИ-агенту использовать инструменты отравленного MCP-сервера Postmark, выполнялся вредоносный код.