Изменение конфигурации ИИ-агента
Оригинал: Modify AI Agent Configuration
Злоумышленники могут изменять конфигурационные файлы ИИ-агентов в системе. Это позволяет вредоносным изменениям сохраняться дольше жизненного цикла одного агента и влияет на всех агентов, использующих общую конфигурацию.
Изменения конфигурации могут включать модификацию системного промпта, подмену или замену источников знаний, изменение настроек подключенных инструментов и другие действия. С помощью таких изменений злоумышленник может перенаправлять вывод или инструменты на вредоносные сервисы, внедрять скрытые инструкции для эксфильтрации данных или ослаблять защитные механизмы, которые обычно ограничивают поведение агента.
Злоумышленники могут изменить или отключить параметр конфигурации, связанный с защитными механизмами, например параметр, который не позволяет ИИ-агенту выполнять действия, потенциально вредные для системы пользователя, без контроля человека в контуре. Отключение защитных функций ИИ-агента может позволить злоумышленникам достичь своих вредоносных целей и сохранить долгосрочную компрометацию ИИ-агента.
Тактики
Примеры процедур из кейсов
Затем пользователи загружали последнюю версию файла правил, заменяя конфигурацию своего ИИ-ассистента программирования вредоносной конфигурацией. Поведение ИИ-ассистента изменялось и влияло на всю будущую генерацию кода.
AML.CS0050Удаленное выполнение кода (RCE) в OpenClaw в один кликВредоносный скрипт отключал защитную функцию OpenClaw, которая запрашивает подтверждение пользователя перед выполнением потенциально опасных команд.
AML.CS0051Использование OpenClaw для командования и управления через промпт-инъекциюВредоносный скрипт добавил промпт-инъекцию в конфигурационный файл OpenClaw `~/.openclaw/workspace/HEARTBEAT.md`. OpenClaw добавляет файл `HEARTBEAT.md` в системный промпт, поэтому это устойчиво изменило поведение агента.