Настройка разрешений привилегированного ИИ-агента

Оригинал: Privileged AI Agent Permissions Configuration

ИИ-агентам могут предоставляться повышенные привилегии по сравнению с обычным пользователем, чтобы поддерживать нужные рабочие процессы. При развертывании привилегированного ИИ-агента или агента, взаимодействующего с несколькими пользователями, важно реализовать надежные политики и механизмы контроля разрешений привилегированного агента. Такие механизмы включают управление доступом на основе ролей (RBAC), управление доступом на основе атрибутов (ABAC) и принцип наименьших привилегий, чтобы агент получал только те разрешения для доступа к инструментам и ресурсам, которые необходимы для выполнения назначенных ему задач.

Связанные техники

AML.T0053Вызов инструментов ИИ-агента

Надлежащий контроль доступа к использованию инструментов привилегированными ИИ-агентами может ограничить способность злоумышленника злоупотреблять вызовами инструментов при компрометации агента.

AML.T0082Сбор учетных данных через RAG

Надлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать учетные данные из баз данных RAG при компрометации агента.

AML.T0085Данные из ИИ-сервисов

Надлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать данные из ИИ-сервисов при компрометации агента.

AML.T0085.000Базы данных RAG

Надлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать данные из баз данных RAG при компрометации агента.

AML.T0085.001Инструменты ИИ-агента

Надлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать данные через вызов инструментов агента при компрометации агента.

AML.T0086Эксфильтрация через вызов инструмента ИИ-агента

AML.T0101Уничтожение данных через вызов инструмента ИИ-агента