Эксплуатация автоматизированного пайплайна обработки артефактов
Оригинал: Exploit Automated Artifact Processing Pipeline
Злоумышленники могут отправить, опубликовать или изменить артефакт таким образом, чтобы запустить автоматизированный пайплайн его обработки. Когда пайплайн обрабатывает артефакт, злоумышленник может с помощью содержимого или конфигурации, находящихся под его контролем, эксплуатировать слабое место в логике обработки, в результате чего обработчик действует за рамками предусмотренного поведения, используя разрешения и доступ воркера обработки.
Эксплуатация может привести к тому, что воркер обработки получит доступ к локальным или внутренним ресурсам и раскроет информацию через штатные выходные данные обработки либо интерпретирует подконтрольное злоумышленнику содержимое и выполнит код. Атака запускается автоматизированной обработкой на серверной стороне и не требует от жертвы открывать, загружать или одобрять артефакт.
Тактики
Меры защиты
Примеры процедур из кейсов
Агенты внесли в подконтрольный им репозиторий вредоносную конфигурацию набора данных HDF5. Она содержала ссылки HDF5 на внешние файлы, заданные в качестве хранилища необработанных данных. Затем агенты запросили автоматизированную обработку этого набора данных через API Hugging Face Dataset Server.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты отправили вредоносную конфигурацию набора данных для ReferenceFileSystem в автоматизированный продакшен-пайплайн. Jinja2 вычислил заданное злоумышленником выражение и выполнил произвольный код на Python в воркере преобразования наборов данных Dataset Server, развёрнутом в виде пода в продакшен-кластере Kubernetes.