Накрутка репутации в цепочке поставок ИИ
Оригинал: AI Supply Chain Reputation Inflation
Накрутка репутации в цепочке поставок ИИ — это создание или использование правдоподобных сигналов доверия, чтобы повысить видимую легитимность компонентов цепочки поставок ИИ и добиться внедрения вредоносных или скомпрометированных ресурсов.
Злоумышленники используют устоявшиеся учетные записи разработчиков с историей легитимных проектов и вкладов, чтобы публиковать ИИ-модели, наборы данных, пакеты и MCP-серверы, которые выглядят заслуживающими доверия. Они наращивают репутацию за счет реальных сигналов использования, таких как скачивания, звезды GitHub, форки и включение в цепочки зависимостей, часто выпуская безопасные версии перед внедрением вредоносных обновлений через подмену компонента после одобрения в цепочке поставок ИИ.
Опираясь на подлинную историю и шаблоны использования, такие компоненты проходят ручные и автоматизированные проверки доверия, что повышает вероятность их внедрения без тщательной проверки.