Латеральное перемещение

Оригинал: Lateral Movement

Злоумышленник пытается перемещаться по вашей ИИ-среде.

Латеральное перемещение включает техники, которые злоумышленники могут использовать для получения доступа к другим системам или компонентам среды и контроля над ними. Злоумышленники могут перемещаться к таким компонентам инфраструктуры AI Ops, как реестры моделей, системы отслеживания экспериментов, векторные базы данных, ноутбуки или пайплайны обучения. По мере перемещения по среде злоумышленник может обнаруживать способы доступа к дополнительным инструментам, сервисам или приложениям, связанным с ИИ. ИИ-агенты также могут быть ценной целью, поскольку обычно имеют больше прав, чем стандартные учетные записи пользователей в системе.

Техники

Примеры процедур из кейсов

AML.CS0036AIKatz: атака на десктопные LLM-приложенияАктор: Lumia Security / Тактика: AML.TA0015 Латеральное перемещение

Злоумышленник использовал извлеченный токен, чтобы аутентифицироваться в backend-сервисе LLM.

AML.CS0044LAMEHUG: вредоносное ПО, использующее команды, динамически генерируемые ИИАктор: APT28 / Тактика: AML.TA0015 Латеральное перемещение

APT28 отправила с этой учетной записи фишинговое письмо с вложением, содержащим вредоносное ПО.

AML.CS0060Межсайтовый скриптинг (XSS) через манипуляцию промптом в ИИ-чат-боте LenovoАктор: Cybernews Research Team / Тактика: AML.TA0015 Латеральное перемещение

После этого исследователи могли импортировать украденный cookie сеанса сотрудника поддержки в свой браузер, чтобы возобновить аутентифицированный сеанс и потенциально выполнить латеральное перемещение в платформе клиентской поддержки Lenovo от имени этого сотрудника.

AML.CS0066ZombieAgent: атака на ChatGPT с эксфильтрацией данныхАктор: Radware Security Researchers / Тактика: AML.TA0015 Латеральное перемещение

Вредоносные инструкции заставили ChatGPT воспроизводить промпт в новых электронных письмах или документах и распространять эти материалы среди собранных контактов. Если отравленное содержимое обрабатывал другой ИИ-агент, атака могла распространяться между пользователями или подключёнными ИИ-системами.

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0015 Латеральное перемещение

Агенты использовали ключ регистрации в mesh-сети, чтобы зарегистрировать скомпрометированный узел и внешние песочницы в корпоративной сети Hugging Face. Отдельно, действуя изнутри скомпрометированного кластера, они воспользовались общими учётными данными коннектора кластера, чтобы получить административный доступ к другим кластерам Kubernetes. Кроме того, агенты использовали учётные данные для баз данных, облачной инфраструктуры и сервисов для доступа к другим внутренним системам или проверяли, можно ли с их помощью получить такой доступ.

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0015 Латеральное перемещение

Используя сервисную учётную запись Kubernetes, назначенную поду Dataset Server, агенты обратились к API кластера. Они преобразовали временные облачные учётные данные узла, на котором работал под, в токен для аутентификации в Kubernetes, прошли аутентификацию от имени узла и получили токены сервисных учётных записей драйвера хранилища кластера с более широкими полномочиями.

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0015 Латеральное перемещение

Агенты использовали похищенные материалы для подписания, чтобы создать действительные токены идентификации с коротким сроком действия. Получив через корпоративную mesh-сеть доступ к системе управления исходным кодом, они воспользовались внутренней интеграцией GitHub App, чтобы создать токены доступа, позволявшие аутентифицироваться от имени установки GitHub App и обращаться к ограниченному набору приватных репозиториев.

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0015 Латеральное перемещение

Агенты воспользовались уязвимостью внутреннего сервиса Artifactory компании OpenAI, применив разработанный метод SSRF, и тем самым пересекли границу сети испытательной среды и вышли в открытый интернет.

AML.CS0069Кибершпионская кампания GTG-1002 с использованием Claude CodeАктор: GTG-1002 / Тактика: AML.TA0015 Латеральное перемещение

Джейлбрейкнутый агент Claude от GTG-1002 проверил пригодность собранных учётных данных для доступа к обнаруженным устройствам, а действующие учётные данные использовал для аутентификации при обращении к внутренним API, базам данных, реестрам контейнеров и инфраструктуре логирования.

AML.CS0071Мультиагентный фреймворк скомпрометировал государственные системы ТайваняАктор: Unknown Chinese-language actor / Тактика: AML.TA0015 Латеральное перемещение

Через SSO-мост фреймворк систематически проверил 85 скомпрометированных учётных записей портала автоматизации офисной работы в другой государственной информационной системе. SSO-мост доверял уже существующим сеансам этого портала, благодаря чему открывался доступ к внутренним информационным панелям, интерфейсам управления оборудованием и страницам статистики персонала.