Базы данных RAG

Оригинал: RAG Databases

Злоумышленники могут через промпт заставить ИИ-сервис извлечь данные из базы данных RAG. Это может включать большую часть внутренних документов организации.

Тактики

AML.TA0009Сбор материалов

Родительская техника

AML.T0085Данные из ИИ-сервисов

Другие подтехники родителя

AML.T0085.001Инструменты ИИ-агентаПодтехника

Меры защиты

AML.M0024Логирование телеметрии ИИ

Логируйте запросы к ИИ-сервисам для обнаружения вредоносных запросов к данным.

AML.M0026Настройка разрешений привилегированного ИИ-агента

Надлежащий контроль доступа для привилегированных ИИ-агентов может ограничить способность злоумышленника собирать данные из баз данных RAG при компрометации агента.

AML.M0027Настройка разрешений ИИ-агента одного пользователя

Настройка ИИ-агентов с разрешениями, унаследованными от пользователя, может ограничить способность злоумышленника собирать данные из баз данных RAG при компрометации агента.

AML.M0032Сегментация компонентов ИИ-агента

Сегментация может помешать злоумышленникам использовать инструменты в агентном рабочем процессе для сбора чувствительных данных из баз данных RAG.

Примеры процедур из кейсов

AML.CS0037Эксфильтрация данных через инструменты ИИ-агента в Copilot StudioАктор: Zenity / Тактика: AML.TA0009 Сбор материалов

Промпт просит агента получить все поля и строки из «Customer Support Account Owners.csv». Агент извлекает весь файл.

AML.CS0059EchoLeak: промпт-инъекция нулевого клика против M365 Copilot для эксфильтрации данныхАктор: Aim Labs / Тактика: AML.TA0009 Сбор материалов

Вредоносные инструкции заставили Copilot обратиться к конфиденциальной корпоративной информации, доступной через учетную запись пользователя Microsoft 365, например к письмам, файлам или сведениям о проектах.