Латеральное перемещение
Оригинал: Lateral Movement
Злоумышленник пытается перемещаться по вашей ИИ-среде.
Латеральное перемещение включает техники, которые злоумышленники могут использовать для получения доступа к другим системам или компонентам среды и контроля над ними. Злоумышленники могут перемещаться к таким компонентам инфраструктуры AI Ops, как реестры моделей, системы отслеживания экспериментов, векторные базы данных, ноутбуки или пайплайны обучения. По мере перемещения по среде злоумышленник может обнаруживать способы доступа к дополнительным инструментам, сервисам или приложениям, связанным с ИИ. ИИ-агенты также могут быть ценной целью, поскольку обычно имеют больше прав, чем стандартные учетные записи пользователей в системе.
Техники
Примеры процедур из кейсов
Злоумышленник использовал извлеченный токен, чтобы аутентифицироваться в backend-сервисе LLM.
AML.CS0044LAMEHUG: вредоносное ПО, использующее команды, динамически генерируемые ИИAPT28 отправила с этой учетной записи фишинговое письмо с вложением, содержащим вредоносное ПО.
AML.CS0060Межсайтовый скриптинг (XSS) через манипуляцию промптом в ИИ-чат-боте LenovoПосле этого исследователи могли импортировать украденный cookie сеанса сотрудника поддержки в свой браузер, чтобы возобновить аутентифицированный сеанс и потенциально выполнить латеральное перемещение в платформе клиентской поддержки Lenovo от имени этого сотрудника.
AML.CS0066ZombieAgent: атака на ChatGPT с эксфильтрацией данныхВредоносные инструкции заставили ChatGPT воспроизводить промпт в новых электронных письмах или документах и распространять эти материалы среди собранных контактов. Если отравленное содержимое обрабатывал другой ИИ-агент, атака могла распространяться между пользователями или подключёнными ИИ-системами.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты использовали ключ регистрации в mesh-сети, чтобы зарегистрировать скомпрометированный узел и внешние песочницы в корпоративной сети Hugging Face. Отдельно, действуя изнутри скомпрометированного кластера, они воспользовались общими учётными данными коннектора кластера, чтобы получить административный доступ к другим кластерам Kubernetes. Кроме того, агенты использовали учётные данные для баз данных, облачной инфраструктуры и сервисов для доступа к другим внутренним системам или проверяли, можно ли с их помощью получить такой доступ.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceИспользуя сервисную учётную запись Kubernetes, назначенную поду Dataset Server, агенты обратились к API кластера. Они преобразовали временные облачные учётные данные узла, на котором работал под, в токен для аутентификации в Kubernetes, прошли аутентификацию от имени узла и получили токены сервисных учётных записей драйвера хранилища кластера с более широкими полномочиями.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты использовали похищенные материалы для подписания, чтобы создать действительные токены идентификации с коротким сроком действия. Получив через корпоративную mesh-сеть доступ к системе управления исходным кодом, они воспользовались внутренней интеграцией GitHub App, чтобы создать токены доступа, позволявшие аутентифицироваться от имени установки GitHub App и обращаться к ограниченному набору приватных репозиториев.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты воспользовались уязвимостью внутреннего сервиса Artifactory компании OpenAI, применив разработанный метод SSRF, и тем самым пересекли границу сети испытательной среды и вышли в открытый интернет.
AML.CS0069Кибершпионская кампания GTG-1002 с использованием Claude CodeДжейлбрейкнутый агент Claude от GTG-1002 проверил пригодность собранных учётных данных для доступа к обнаруженным устройствам, а действующие учётные данные использовал для аутентификации при обращении к внутренним API, базам данных, реестрам контейнеров и инфраструктуре логирования.
AML.CS0071Мультиагентный фреймворк скомпрометировал государственные системы ТайваняЧерез SSO-мост фреймворк систематически проверил 85 скомпрометированных учётных записей портала автоматизации офисной работы в другой государственной информационной системе. SSO-мост доверял уже существующим сеансам этого портала, благодаря чему открывался доступ к внутренним информационным панелям, интерфейсам управления оборудованием и страницам статистики персонала.