Эксплуатация автоматизированного пайплайна обработки артефактов

Оригинал: Exploit Automated Artifact Processing Pipeline

Злоумышленники могут отправить, опубликовать или изменить артефакт таким образом, чтобы запустить автоматизированный пайплайн его обработки. Когда пайплайн обрабатывает артефакт, злоумышленник может с помощью содержимого или конфигурации, находящихся под его контролем, эксплуатировать слабое место в логике обработки, в результате чего обработчик действует за рамками предусмотренного поведения, используя разрешения и доступ воркера обработки.

Эксплуатация может привести к тому, что воркер обработки получит доступ к локальным или внутренним ресурсам и раскроет информацию через штатные выходные данные обработки либо интерпретирует подконтрольное злоумышленнику содержимое и выполнит код. Атака запускается автоматизированной обработкой на серверной стороне и не требует от жертвы открывать, загружать или одобрять артефакт.

Тактики

Меры защиты

Примеры процедур из кейсов

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0004 Первичный доступ

Агенты внесли в подконтрольный им репозиторий вредоносную конфигурацию набора данных HDF5. Она содержала ссылки HDF5 на внешние файлы, заданные в качестве хранилища необработанных данных. Затем агенты запросили автоматизированную обработку этого набора данных через API Hugging Face Dataset Server.

AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАктор: Autonomous OpenAI Agents / Тактика: AML.TA0004 Первичный доступ

Агенты отправили вредоносную конфигурацию набора данных для ReferenceFileSystem в автоматизированный продакшен-пайплайн. Jinja2 вычислил заданное злоумышленником выражение и выполнил произвольный код на Python в воркере преобразования наборов данных Dataset Server, развёрнутом в виде пода в продакшен-кластере Kubernetes.