Компрометация цепочки поставок ИИ

Оригинал: AI Supply Chain Compromise

Злоумышленники могут получить первичный доступ к системе, скомпрометировав части цепочки поставок, специфичные для ИИ.

Это может включать аппаратное обеспечение, данные и их аннотации, части стека ПО для ИИ или саму модель.

В некоторых случаях для полного проведения атаки с использованием скомпрометированных компонентов цепочки поставок злоумышленнику потребуется вторичный доступ.

Тактики

AML.TA0004Первичный доступ

Подтехники

AML.T0010.000Аппаратное обеспечениеПодтехника AML.T0010.001ПО для ИИПодтехника AML.T0010.002ДанныеПодтехника AML.T0010.003МодельПодтехника AML.T0010.004Реестр контейнеровПодтехника AML.T0010.005Инструмент ИИ-агентаПодтехника

Меры защиты

AML.M0014Проверка ИИ-артефактов

Внедрите надлежащую проверку подписей, чтобы небезопасные ИИ-артефакты не попадали в систему.

AML.M0020Защитные ограничения (Guardrails) для генеративного ИИ

Защитные ограничения могут обнаруживать вредоносный код в выходных данных модели.

AML.M0023Ведомость материалов ИИ

AI BOM может помочь пользователям выявлять недоверенные компоненты цепочки поставок ИИ.

Примеры процедур из кейсов

AML.CS0031Вредоносные модели на Hugging FaceАктор: Unknown / Тактика: AML.TA0004 Первичный доступ

Поскольку модели были успешно загружены на Hugging Face, цепочка поставок пользователя, полагавшегося на этот репозиторий моделей, могла быть скомпрометирована.