Сегментация компонентов ИИ-агента

Оригинал: Segmentation of AI Agent Components

Определяйте границы безопасности вокруг агентных инструментов и источников данных с помощью таких методов, как доступ через API, изоляция контейнеров, изоляция выполнения кода в песочнице и ограничение частоты вызова инструментов. При изоляции в песочнице ограничивайте доступ к ресурсам и сети, а перед каждым запуском собирайте контейнер или виртуальную машину из чистого базового образа. Это ограничивает распространение недоверенных процессов или возможной компрометации по системе.

Связанные техники

AML.T0053Вызов инструментов ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для выполнения небезопасных действий, влияющих на другие компоненты.

AML.T0085Данные из ИИ-сервисов

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора чувствительных данных из ИИ-сервисов.

AML.T0085.000Базы данных RAG

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора чувствительных данных из баз данных RAG.

AML.T0085.001Инструменты ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора чувствительных данных.

AML.T0086Эксфильтрация через вызов инструмента ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для компрометации источников чувствительных данных.

AML.T0098Сбор учетных данных через инструменты ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора учетных данных.