Триггеры активации
Оригинал: Activation Triggers
Злоумышленники могут выявлять ключевые слова или другие триггеры, такие как входящие письма, добавление документов, входящие сообщения или другие рабочие процессы, которые активируют агента и могут заставить его выполнить дополнительные действия.
Понимание этих триггеров может раскрыть, как ИИ-агент активируется и управляется. Это также может открыть дополнительные пути компрометации, поскольку злоумышленник может попытаться вызвать срабатывание агента извне его среды и заставить его выполнить непреднамеренные или вредоносные действия.