Латеральное перемещение

Оригинал: Lateral Movement

Злоумышленник пытается перемещаться по вашей ИИ-среде.

Латеральное перемещение включает техники, которые злоумышленники могут использовать для получения доступа к другим системам или компонентам среды и контроля над ними. Злоумышленники могут перемещаться к таким компонентам инфраструктуры AI Ops, как реестры моделей, системы отслеживания экспериментов, векторные базы данных, ноутбуки или пайплайны обучения. По мере перемещения по среде злоумышленник может обнаруживать способы доступа к дополнительным инструментам, сервисам или приложениям, связанным с ИИ. ИИ-агенты также могут быть ценной целью, поскольку обычно имеют больше прав, чем стандартные учетные записи пользователей в системе.

Техники

AML.T0052Фишинг AML.T0052.000Целевой фишинг через LLM для социальной инженерииПодтехника AML.T0052.000Целевой фишинг через LLM для социальной инженерииПодтехника AML.T0052.001Фишинг с использованием дипфейковПодтехника AML.T0052.001Фишинг с использованием дипфейковПодтехника AML.T0053Вызов инструментов ИИ-агента AML.T0091Использование альтернативных средств аутентификации AML.T0091.000Токен доступа к приложениюПодтехника AML.T0091.000Токен доступа к приложениюПодтехника AML.T0091.001Cookie веб-сессииПодтехника AML.T0091.001Cookie веб-сессииПодтехника

Примеры процедур из кейсов

AML.CS0036AIKatz: атака на десктопные LLM-приложенияАктор: Lumia Security / Тактика: AML.TA0015 Латеральное перемещение

Злоумышленник использовал извлеченный токен, чтобы аутентифицироваться в backend-сервисе LLM.

AML.CS0044LAMEHUG: вредоносное ПО, использующее команды, динамически генерируемые ИИАктор: APT28 / Тактика: AML.TA0015 Латеральное перемещение

APT28 отправила с этой учетной записи фишинговое письмо с вложением, содержащим вредоносное ПО.

AML.CS0060Межсайтовый скриптинг (XSS) через манипуляцию промптом в ИИ-чат-боте LenovoАктор: Cybernews Research Team / Тактика: AML.TA0015 Латеральное перемещение

После этого исследователи могли импортировать украденный cookie сеанса сотрудника поддержки в свой браузер, чтобы возобновить аутентифицированный сеанс и потенциально выполнить латеральное перемещение в платформе клиентской поддержки Lenovo от имени этого сотрудника.

AML.CS0066ZombieAgent: атака на ChatGPT с эксфильтрацией данныхАктор: Radware Security Researchers / Тактика: AML.TA0015 Латеральное перемещение

Вредоносные инструкции заставили ChatGPT воспроизводить промпт в новых электронных письмах или документах и распространять эти материалы среди собранных контактов. Если отравленное содержимое обрабатывал другой ИИ-агент, атака могла распространяться между пользователями или подключёнными ИИ-системами.