Компрометация инфраструктуры
Оригинал: Compromise Infrastructure
Злоумышленники могут скомпрометировать стороннюю инфраструктуру и приспособить её для атак на ИИ-системы. Вместо того чтобы купить, взять в аренду, зарегистрировать или иным правомерным способом получить ресурс, злоумышленник получает несанкционированный контроль над инфраструктурой, принадлежащей другой стороне или находящейся под её управлением.
К скомпрометированной инфраструктуре могут относиться физические или облачные серверы, домены, сетевые устройства, сторонние веб- и DNS-сервисы, репозитории ПО или артефактов, рабочие пространства для разработки, вычислительные сервисы и другие ресурсы, размещённые на сторонних площадках.
В операциях, связанных с ИИ-системами, злоумышленники могут компрометировать инфраструктуру, используемую для разработки моделей, размещения артефактов, обработки наборов данных, оценки, инференса, обеспечения ИИ-агентов инструментами или эксплуатации ИИ-систем. Они могут приспособить эту инфраструктуру, чтобы размещать вредоносные артефакты, подготавливать полезные нагрузки к дальнейшему использованию, запускать инструменты или агентов, ретранслировать трафик, собирать учётные данные, обеспечивать командование и управление, обрабатывать собранные данные или проводить атаки на другие системы.
Скомпрометированная инфраструктура может вызывать доверие благодаря размещению у легитимного поставщика либо использованию давно существующего домена, действительного сертификата, сервиса с хорошей репутацией или привычной платформы для разработки ИИ. Кроме того, благодаря такой инфраструктуре злоумышленник может получить сетевой доступ и вычислительные ресурсы, действовать от имени сервисов или воспользоваться существующими отношениями доверия — всего этого ему было бы трудно добиться самостоятельно.