Подмена компонента после одобрения в цепочке поставок ИИ
Оригинал: AI Supply Chain Rug Pull
Злоумышленники могут опубликовать легитимные ИИ-компоненты или ПО, добиться их использования, а затем выпустить обновление с вредоносной версией, что приводит к компрометации цепочки поставок ИИ. При первом рассмотрении зависимости для включения в ИИ-систему ее обычно проверяют особенно тщательно. Подмена после того, как компонент уже получил доверие и распространение, может позволить злоумышленникам обойти такие защитные меры и с большей вероятностью добиться первичного доступа.
Злоумышленники могут публиковать вредоносные ИИ-компоненты через публикацию отравленных моделей, публикацию отравленных наборов данных или публикацию отравленного инструмента ИИ-агента.
Перед такой подменой злоумышленники могут использовать другие техники (см. накрутку репутации в цепочке поставок ИИ), чтобы завоевать доверие пользователей и расширить использование компонента.