Настройка разрешений ИИ-агента одного пользователя

Оригинал: Single-User AI Agent Permissions Configuration

При развертывании ИИ-агента, который действует как представитель пользователя и выполняет действия от его имени, важно реализовать надежные политики и механизмы контроля разрешений и управления жизненным циклом агента. Управление жизненным циклом включает установление идентичности, протоколы управления доступом и вывод агента из эксплуатации, когда его роль больше не требуется. Механизмы контроля также должны включать принцип наименьших привилегий и делегированный доступ от имени пользователя. Действуя как представитель пользователя, ИИ-агент не должен получать разрешения, которые не были бы предоставлены самому пользователю в системе или организации.

Связанные техники

AML.T0053Вызов инструментов ИИ-агента

Настройка ИИ-агентов с разрешениями на использование инструментов, унаследованными от пользователя, может ограничить способность злоумышленника злоупотреблять вызовами инструментов при компрометации агента.

AML.T0082Сбор учетных данных через RAG

Настройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать учетные данные из баз данных RAG при компрометации агента.

AML.T0085Данные из ИИ-сервисов

Настройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать данные из ИИ-сервисов при компрометации агента.

AML.T0085.000Базы данных RAG

Настройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать данные из баз данных RAG при компрометации агента.

AML.T0085.001Инструменты ИИ-агента

Настройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать данные через вызов инструментов агента при компрометации агента.

AML.T0086Эксфильтрация через вызов инструмента ИИ-агента

AML.T0101Уничтожение данных через вызов инструмента ИИ-агента