Локальный ИИ-агент
Оригинал: Local AI Agent
Злоумышленники могут добиться полной компрометации системы, злоупотребляя ИИ-агентами, которые локально выполняются на хосте, например computer-use-агентами или ИИ-браузерами. Такие агенты предназначены для автономного взаимодействия с операционной системой, приложениями и внешними сервисами и часто имеют широкие разрешения на выполнение команд, доступ к файлам, управление учетными данными и пользовательскими рабочими процессами.
Если злоумышленник может взять под контроль поведение ИИ-агента, он фактически получает тот же уровень доступа, что и агент. Это может привести к полному контролю над машиной, включая выполнение произвольного кода, доступ к чувствительным данным или их эксфильтрацию, изменение системных конфигураций и закрепление.
Тактики
Родительская техника
Другие подтехники родителя
Примеры процедур из кейсов
Поведение агента OpenClaw было захвачено, и ему больше нельзя было доверять как системе, действующей в соответствии с намерениями пользователя.
AML.CS0052LLMSmith: уязвимости RCE в приложениях с интеграцией LLMИсследователи получили полный контроль над системой, на которой выполнялось приложение с интеграцией LLM.
AML.CS0055AI ClickFix: захват управления computer-use-агентами с помощью ClickFixСкрипт исследователя запускался и открывал приложение Calculator на машине жертвы. На практике вместо него мог быть выполнен любой вредоносный код, что привело бы к компрометации машины жертвы.